구글 AI 환각 문제가 이번엔 정치권을 뒤흔들었어요. 구글의 Gemma AI 모델이 미국 공화당 상원의원에 대해 완전히 거짓인 성폭행 혐의를 만들어냈고, 이로 인해 구글은 해당 모델을 플랫폼에서 급히 내렸답니다. AI가 만든 가짜 뉴스가 실제 인물의 명예를 훼손할 수 있다는 걸 보여준 사건이에요.
구글 Gemma AI가 만든 거짓 혐의
2025년 11월, 구글의 개발자용 AI 모델인 Gemma가 심각한 문제를 일으켰어요. 누군가 Gemma에게 “마샤 블랙번이 성폭행 혐의를 받은 적이 있나요?”라고 질문했는데, AI는 완전히 꾸며낸 이야기를 답변으로 내놓았답니다.
Gemma는 블랙번 상원의원이 1987년 주 상원 선거 당시 주 경찰관과 성적 관계를 맺었고, 그 관계에는 비동의적 행위가 포함되었다고 주장했어요. 심지어 이를 뒷받침한다며 가짜 뉴스 기사 링크까지 제공했죠.
문제는 이 모든 게 거짓이라는 거예요. 블랙번 의원은 1987년이 아닌 1998년에 선거에 출마했고, 그런 혐의를 받은 적도 전혀 없어요. 제공된 링크들도 오류 페이지나 전혀 관련 없는 기사로 연결됐답니다.
마샤 블랙번 상원의원의 강력 반발
테네시주 공화당 상원의원인 마샤 블랙번은 즉각 강력하게 대응했어요. 그녀는 구글 CEO 순다르 피차이에게 서한을 보내 명예훼손과 보수 진영에 대한 편향을 지적했답니다.
블랙번 의원은 최근 상원 상무위원회 청문회에서도 이 문제를 제기했어요. 반다양성 운동가 로비 스타벅이 구글을 상대로 제기한 AI 명예훼손 소송을 언급하며, 이런 사례가 계속 반복되고 있다고 강조했죠.
그녀는 서한에서 이렇게 말했어요. “이건 무해한 환각이 아니에요. 구글 소유 AI 모델이 만들고 배포한 명예훼손 행위랍니다. 그런 개인은 존재하지 않고, 그런 뉴스 기사도 없어요. 통제할 수 있을 때까지 시스템을 중단하세요.”
AI 환각이란 무엇인가요
AI 환각은 인공지능이 사실이 아닌 정보를 마치 사실인 것처럼 자신 있게 제시하는 현상을 말해요. 생성형 AI가 학습한 패턴을 바탕으로 그럴듯한 답변을 만들어내지만, 실제 사실 확인은 하지 않기 때문에 발생하죠.
이 문제는 AI 업계 전체가 몇 년째 씨름하고 있는 난제예요. 기술이 발전하면서 개선되고는 있지만, 아직 명확한 해결책은 없는 상태랍니다.
특히 이번 사건처럼 실존 인물에 대한 거짓 정보를 생성할 경우, 개인의 명예와 신뢰에 심각한 피해를 줄 수 있어요. 단순한 기술적 오류를 넘어 법적, 윤리적 문제로 번질 수 있는 거죠.
개발자용 도구를 일반 사용자가 사용한 혼란
구글은 이번 사건의 원인 중 하나로 사용 목적의 혼란을 지적했어요. Gemma는 원래 일반 소비자가 아닌 개발자를 위해 만들어진 모델이랍니다.
구글의 공식 뉴스 계정은 X(구 트위터)에 이렇게 설명했어요. “개발자가 아닌 사람들이 AI Studio에서 Gemma를 사용해 사실 관련 질문을 하는 보고를 받았습니다.” AI Studio는 개발자용 플랫폼이지, 일반 소비자가 구글 AI 모델에 접근하는 일반적인 방법이 아니에요.
Gemma는 의료용, 코딩용, 텍스트 및 이미지 콘텐츠 평가용 등 다양한 변형 모델을 갖춘 개발자용 AI 모델 패밀리로 소개되고 있어요. 애초에 소비자 도구로 사용되거나 사실 질문에 답하도록 설계되지 않았다는 게 구글의 입장이랍니다.
하지만 일반 사용자가 접근할 수 있는 플랫폼에 올려놨다면, 이런 혼란은 어느 정도 예상 가능한 일이 아니었을까요?
구글의 대응과 Gemma 모델 제거 결정
구글은 신속하게 대응에 나섰어요. 혼란을 방지하기 위해 AI Studio에서 Gemma에 대한 접근을 더 이상 제공하지 않기로 결정했답니다. 다만 개발자들은 여전히 API를 통해 접근할 수 있어요.
구글은 성명에서 “Gemma는 소비자 도구로 사용되거나 사실 질문에 답하기 위한 것이 아니었다”고 강조했어요. 하지만 이미 피해는 발생한 뒤였죠.
구글은 또한 “환각을 최소화하고 모든 모델을 지속적으로 개선하는 데 전념하고 있다”고 밝혔어요. 하지만 이런 약속은 이미 여러 번 들어본 이야기예요.
이번 조치가 임시방편인지, 아니면 근본적인 문제 해결을 위한 첫걸음인지는 지켜봐야 할 것 같아요.
AI 사실 정확성 문제는 여전히 현재진행형
이번 사건은 AI 업계가 직면한 더 큰 문제를 드러냈어요. 생성형 AI 붐이 시작된 지 몇 년이 지났지만, AI 모델과 진실의 관계는 여전히 복잡하답니다.
AI 챗봇이 사실처럼 보이는 거짓이나 오해의 소지가 있는 답변을 내놓는 문제는 업계 전체를 괴롭히고 있어요. 개선은 이뤄지고 있지만, 정확성 문제에 대한 명확한 해결책은 아직 보이지 않아요.
특히 정치인, 유명인, 일반인 등 실존 인물에 대한 정보를 다룰 때 이런 오류는 치명적일 수 있어요. 한 번 퍼진 거짓 정보는 정정하기 어렵고, 개인의 평판에 돌이킬 수 없는 피해를 줄 수 있거든요.
구글뿐만 아니라 OpenAI, Microsoft, Meta 등 주요 AI 기업들 모두 비슷한 문제를 겪고 있어요. 이는 단순히 한 회사의 문제가 아니라, AI 기술 자체가 안고 있는 구조적 한계랍니다.
앞으로 AI 신뢰성을 어떻게 확보할까요
이번 사건은 AI 기술의 신뢰성 확보가 얼마나 중요한지 다시 한번 보여줬어요. 앞으로 AI 기업들은 어떤 방향으로 나아가야 할까요?
먼저 사용 목적과 한계를 명확히 표시해야 해요. 개발자용 도구와 일반 사용자용 서비스를 확실히 구분하고, 각 도구가 할 수 있는 것과 없는 것을 분명히 알려야 하죠.
또한 사실 확인 메커니즘을 강화해야 해요. 특히 실존 인물이나 역사적 사건에 대한 질문에는 더 신중하게 답변하거나, 확실하지 않을 때는 “모르겠다”고 솔직히 말하는 게 나을 수 있어요.
법적 책임 문제도 정리가 필요해요. AI가 생성한 명예훼손적 내용에 대해 누가 책임을 져야 하는지, 피해자는 어떻게 구제받을 수 있는지 명확한 기준이 마련돼야 한답니다.
구글 AI 환각 사건은 우리에게 중요한 교훈을 남겼어요. AI는 강력한 도구지만, 아직 완벽하지 않다는 점을 잊지 말아야 해요. 여러분은 AI가 제공하는 정보를 어떻게 받아들이고 계신가요? 댓글로 생각을 나눠주세요.
출처: https://www.theverge.com/news/812376/google-removes-gemma-senator-blackburn-hallucination
같이 보면 좋은 글
#구글AI환각 #AI환각문제 #GemmaAI #구글AI오류 #AI명예훼손 #AI거짓정보 #인공지능윤리 #AI신뢰성 #생성형AI문제 #AI사실확인 #구글Gemma #AI정확성 #AI허위정보 #마샤블랙번 #AI책임문제 #AI기술한계 #챗봇오류 #AI개발자도구 #AI소비자보호 #구글AIStudio #AI법적책임 #AI편향성 #인공지능리스크 #AI안전성 #AI미래기술