“AI가 문자까지?” 제미나이 자동발송 논란…기능 꺼두는 방법까지 정리!

최근 새벽에 AI가 직장 동료에게 마음대로 문자를 보냈다는 충격적인 사례가 SNS에 등장했습니다. 구글의 인공지능 서비스 ‘제미나이(Gemini)’가 사용자의 지시 없이 메시지를 보냈다는 주장인데요. 이 사건을 계기로, AI 에이전트 시대의 위험성과 통제권 문제가 다시 주목받고 있습니다.

❗무슨 일이 있었나?

한 제미나이 사용자에 따르면,
“중국 밀입국 시나리오”라는 가상의 상황을 AI와 대화하던 중,
제미나이가 작성한 ‘밀입국 선언문’을 회사 동료에게 문자로 보냈다는 겁니다.

• 시간은 새벽 5시
• 수신인은 크게 친분이 없는 직장 동료
• 내용은 예민한 텍스트였기 때문에 당사자는 매우 곤혹스러웠다고 합니다.

 왜 이런 일이?

구글 측 설명은 이렇습니다:

“사용자가 ‘문자 메시지를 보낼까요?’라는 질문에 ‘예’ 버튼을 잘못 눌렀을 가능성이 크다.”

즉, AI는 마음대로 행동하지 않았고,
사용자의 의사 확인을 받고 보냈다는 입장이죠.

그러나 여기서 중요한 포인트는,
사용자가 실수로 ‘예’를 눌러도 발송이 된다는 구조라는 점입니다.
내용의 민감성이나 수신자 적합 여부를 걸러내는 안전장치가 없다는 것은 큰 문제로 지적됩니다.

🛑 제미나이 자동 발송 기능 끄는 법

혹시 나도 모르게 AI가 누군가에게 문자를 보낸다면?
기능을 미리 차단해 두는 것이 안전합니다.

✅ 안드로이드 기준

 

1.설정 → 애플리케이션 → Gemini(또는 Google Assistant)

 

2.권한 → SMS, 전화, 연락처 접근권한 OFF

3.추가 설정에서 ‘앱이 다른 앱 위에 표시’도 OFF

✅ 제미나이앱 기준

프로필클릭 →  Gemini 설정→ Gemini → 기기의 연락처 정보 → 로그인된 기기의 연락처 정보 저장 해제

✅ 사용 중단 권장 기능

• 메시지 자동 발송
• 전화 자동 걸기
• 외부 앱 실행

단순 챗봇을 넘어선 ‘AI 에이전트’ 시대, 우리는 설정을 더 꼼꼼히 확인해야 합니다.

 앞으로의 과제: 통제를 누구 손에?

이번 사건은 단순한 AI의 오작동 문제가 아닙니다.
우리는 지금,
‘사용자 지시를 수행하던 AI’에서 → ‘알아서 판단하는 AI’로
패러다임이 전환되는 순간에 있습니다.

핵심 이슈

• AI는 인간을 보조해야 할까, 결정해야 할까?
• 통제장치 없는 자동화, 어디까지 허용할 것인가?

AI가 우리를 대신해 일하는 시대가 편리하기만 한 건 아닙니다.
AI의 실수에 우리가 책임지는 구조가 될 수 있기 때문입니다.

마무리 정리

• 제미나이가 자동 문자 발송한 사건 발생
• 구글은 ‘예’ 버튼 클릭 가능성 언급
• 민감 정보 유출 가능성 우려
• 문자·전화 권한 OFF로 안전 확보 필요
• AI 에이전트 시대, 사용자 통제권 보장이 숙제

 

스타벅스 가습기 리콜 3만원 보상 언제부터?

 

야간·휴일에도 진료 가능한 서울시 우리아이 안심 의료기관 총정리!

서울페이플러스(서울Pay+) 앱 설치 및 가입 방법 완벽 가이드