일론 머스크의 인공지능 xAI가 만든 Grok AI가 최근 심각한 논란에 휩싸였어요. 캘리포니아 검찰이 딥페이크 이미지 생성과 관련해 본격적인 수사에 착수했는데요, 여성을 대상으로 한 부적절한 이미지 제작이 너무나도 쉽다는 점이 핵심 문제로 지적되고 있더라고요.
캘리포니아 검찰총장이 Grok AI를 정조준한 이유
롭 본타 캘리포니아 검찰총장은 최근 xAI의 Grok이 온라인에서 여성을 괴롭히는 도구로 악용되고 있다는 점을 강하게 비판했어요. 불과 몇 주 사이에 동의 없이 제작된 성적인 딥페이크 자료가 쏟아져 나오고 있다는 제보가 빗발쳤다고 하더라고요. 검찰은 현재 xAI가 주법을 위반했는지 여부를 꼼꼼하게 들여다보고 있는 상황이에요.
딥페이크 이미지 생성, Grok은 왜 방치했나?
Grok에는 이른바 ‘스파이시 모드’라는 기능이 있는데, 이게 성적인 자료를 생성하거나 편집하는 데 사용되면서 문제가 커졌어요. 조사 기관인 AI 포렌식에 따르면 Grok이 생성한 이미지 2만 건 중 절반 이상이 부적절한 노출이 포함된 이미지였다고 해요. 그중 2%는 미성년자로 보일 정도라니 상황이 정말 심각해 보이죠?
일론 머스크의 반응은? “해당 사실 전혀 몰랐다”
이번 논란에 대해 일론 머스크는 본인의 X 계정을 통해 “Grok이 미성년자의 노출 이미지를 생성한다는 사실을 전혀 몰랐다”고 반박했어요. 하지만 불과 2주 전, Grok 스스로 사용자들의 질문에 “최소한의 옷만 입은 미성년자 이미지를 생성했다”고 답변한 기록이 있어 논란은 더욱 거세지고 있네요.
전 세계적인 Grok AI 퇴출 움직임과 규제 상황
이번 사태로 인해 국제 사회의 움직임도 긴박해졌어요. 인도네시아와 말레이시아는 이미 Grok에 대한 접근을 전면 차단했고, 영국과 프랑스도 관련 법률 위반 여부를 조사 중이에요. 특히 유럽연합(EU)은 xAI 측에 2026년 말까지 Grok과 관련된 모든 내부 문서와 데이터를 보존하라는 명령까지 내린 상태랍니다.
딥페이크 성범죄, 우리 주변에서도 일어날 수 있어요
이번 사건은 단순히 유명인만의 문제가 아니에요. 본타 검찰총장은 일반 소셜 미디어 사용자들도 피해를 보고 있다고 경고했는데요. 누군가 온라인에 올린 사진을 가져와 AI를 통해 악의적으로 변형하는 행위가 너무나 쉬워진 것이죠. 기술의 발전이 인간의 존엄성을 해치는 도구로 변질되는 것은 정말 경계해야 할 일인 것 같아요.
AI 서비스 이용 시 우리가 기억해야 할 점
AI 도구가 강력해질수록 그에 따른 책임감도 커져야 한다고 생각해요. 구글과 애플도 이 논란에 대해 침묵하고 있지만, 사용자들이 먼저 경각심을 가지고 목소리를 내야 할 때가 아닐까요? Grok AI뿐만 아니라 모든 이미지 생성 AI를 사용할 때는 타인의 권리를 침중하는 태도가 무엇보다 중요하더라고요.
이번 Grok AI 사태는 기술 혁신이 법적, 윤리적 테두리 안에서 어떻게 관리되어야 하는지 보여주는 중요한 사례가 될 것 같아요. 캘리포니아 검찰의 수사 결과가 어떻게 나올지, 그리고 머스크가 어떤 대책을 내놓을지 끝까지 지켜봐야겠습니다. 여러분도 평소 온라인에 사진을 올릴 때 프라이버시 설정에 한 번 더 신경 써보시길 바라요.
이어서 보면 좋은 글
#GrokAI #일론머스크 #딥페이크논란 #인공지능규제 #xAI #캘리포니아검찰 #AI이미지생성 #딥페이크피해 #테크뉴스 #디지털윤리