구글이 AI 스튜디오에서 젬마 모델을 제거했어요. 미국 상원의원이 허위 명예훼손 내용을 생성한다고 고발한 후 내린 조치인데요. AI 모델의 할루시네이션 문제가 단순한 오류를 넘어 법적 문제로 번지고 있습니다.
젠마 AI 모델 명예훼손 사건 배경
테네시주 공화당 상원의원 마샤 블랙번이 구글 CEO 순다르 피차이에게 공개서한을 보냈어요. 젬마 AI 모델이 자신에 대한 성추행 의혹을 조작해서 생성했다는 내용이었습니다.
블랙번 의원에 따르면, 젬마에게 “마샤 블랙번이 성폭행 혐의를 받은 적이 있나요?”라고 질문했을 때 완전히 거짓인 답변을 받았다고 해요. AI는 1987년 주 상원 선거 당시 주 경찰관이 블랙번 의원을 고발했다고 허위 주장을 했는데, 실제로는 그런 일도 없었고 선거 연도도 1998년이 맞다고 정정했습니다.
더 심각한 건 AI가 제시한 뉴스 기사 링크들이 모두 오류 페이지나 관련 없는 기사로 연결됐다는 점이에요.
구글 AI 할루시네이션 vs 명예훼손 논란
구글은 이런 문제를 ‘AI 할루시네이션’이라고 부르며 완화 노력 중이라고 해명했어요. 하지만 블랙번 의원은 이를 “무해한 할루시네이션이 아닌 구글 소유 AI 모델이 제작하고 배포한 명예훼손 행위”라고 강하게 반박했습니다.
최근 상원 상무위원회 청문회에서도 비슷한 사례가 제기됐어요. 보수 활동가 로비 스타벅이 구글을 상대로 소송을 제기했는데, 젬마를 포함한 구글 AI 모델들이 자신을 “아동 성범죄자”, “연쇄 성추행범”이라고 허위 묘사했다는 내용이었죠.
AI 편향성 문제 제기
트럼프 행정부 지지자들은 AI 검열이 인기 챗봇에 자유주의적 편향을 일으킨다고 지속적으로 불만을 제기해왔어요. 트럼프 대통령도 올해 초 “각성한 AI”를 금지하는 행정명령에 서명했습니다.
블랙번 의원도 편지에서 “구글 AI 시스템이 보수 인사들에 대해 일관된 편향 패턴을 보인다”고 주장했어요.
구글의 대응과 젬마 모델 제거 결정
구글은 금요일 밤 X(트위터)를 통해 공식 입장을 발표했어요. 블랙번 의원의 편지 내용을 직접 언급하지는 않았지만, “개발자가 아닌 사용자들이 AI 스튜디오에서 젬마를 사용해 사실 확인 질문을 하는 사례를 확인했다”고 밝혔습니다.
구글은 “젬마를 소비자 도구나 모델로 사용하거나 이런 방식으로 활용할 의도가 전혀 없었다”고 해명했어요. 젬마는 개발자들이 자체 제품에 통합할 수 있는 오픈소스 경량 모델 패밀리로 설계됐고, AI 스튜디오는 AI 기반 앱을 위한 웹 기반 개발 환경이라는 설명이었습니다.
결국 구글은 AI 스튜디오에서 젬마를 제거하되, API를 통해서는 계속 모델을 제공하기로 했어요.
AI 모델 안전성과 책임 문제
이번 사건은 AI 모델의 안전성과 개발사의 책임 범위에 대한 중요한 질문을 던져요. 단순한 기술적 오류를 넘어서 개인의 명예와 사회적 신뢰에 미치는 영향이 크기 때문입니다.
AI 할루시네이션은 모든 대형 언어 모델에서 나타나는 현상이지만, 이를 어떻게 관리하고 책임질 것인가는 여전히 해결해야 할 과제예요. 특히 공인이나 유명인에 대한 허위 정보 생성은 더욱 민감한 문제가 될 수 있습니다.
개발사의 대응 방안
구글뿐만 아니라 다른 AI 개발사들도 비슷한 문제에 직면하고 있어요. OpenAI, 메타, 마이크로소프트 등 주요 기업들은 AI 모델의 정확성을 높이고 편향을 줄이기 위한 다양한 기술적 해결책을 모색하고 있습니다.
하지만 기술적 개선만으로는 한계가 있어서, 사용자 교육과 명확한 가이드라인 제시도 중요한 요소로 여겨지고 있어요.
향후 AI 규제와 업계 전망
이번 젬마 제거 사건은 AI 업계 전반에 중요한 시사점을 던져요. 정부 차원에서 AI 규제 논의가 활발해지는 상황에서, 개발사들의 자율적 대응이 얼마나 효과적일지 주목받고 있습니다.
블랙번 의원은 트럼프 행정부의 모든 기술 정책을 지지하지는 않았지만, 이번 사안에서는 보수 인사들에 대한 AI 편향 문제를 강력히 제기했어요. 이는 향후 AI 정책 방향에도 영향을 미칠 가능성이 높습니다.
AI 개발사들은 기술 발전과 함께 사회적 책임도 고려해야 하는 복잡한 상황에 놓여 있어요. 특히 정치적으로 민감한 주제나 개인 정보와 관련된 질문에 대한 AI 응답은 더욱 신중하게 관리해야 할 것 같습니다.
마무리
구글 젬마 AI 스튜디오 제거 사건은 AI 기술 발전과 사회적 책임 사이의 균형점을 찾아야 하는 현실을 보여줘요. AI 모델의 할루시네이션 문제가 단순한 기술적 오류를 넘어 법적, 정치적 쟁점으로 확산되고 있는 만큼, 업계 전반의 대응 방안 마련이 시급해 보입니다. 여러분은 이런 AI 명예훼손 논란에 대해 어떻게 생각하시나요?