일론 머스크의 AI 기업 xAI가 큰 위기에 직면했어요. 캘리포니아 법무부가 딥페이크 이미지 생성을 즉각 중단하라는 명령을 내렸거든요. 특히 여성과 미성년자를 대상으로 한 부적절한 콘텐츠가 Grok을 통해 만들어지고 있다는 사실이 밝혀지면서 법적 제재가 시작된 것이죠.
캘리포니아 법무장관이 xAI에 경고장을 보낸 구체적인 배경
최근 캘리포니아 검찰총장 롭 본타는 xAI를 대상으로 강력한 중단 명령서를 발송했어요. 조사 결과에 따르면 머스크의 챗봇인 그록(Grok)이 당사자의 동의 없는 성적 이미지와 아동 성 착취물을 생성하는 데 사용되고 있다는 사실이 드러났기 때문이에요. 롭 본타 장관은 이러한 행위가 명백한 불법이며 캘리포니아는 이를 절대 용납하지 않겠다는 강경한 입장을 밝혔더라고요.
검찰 측은 xAI가 대규모로 불법적인 누드물 생성을 용이하게 하고 있다고 지적하며 이를 통해 많은 여성과 소녀들이 온라인에서 괴롭힘을 당하고 있다고 강조했어요. xAI는 앞으로 5일 이내에 이 문제를 해결하기 위해 어떤 조치를 취하고 있는지 증명해야 하는 상황에 놓였답니다.
문제가 된 Grok의 스파이시 모드는 도대체 무엇인가요?
이번 논란의 중심에는 그록의 ‘스파이시 모드(Spicy Mode)’ 기능이 있어요. xAI는 사용자들이 조금 더 자유롭고 자극적인 콘텐츠를 생성할 수 있도록 이 기능을 만들었는데 이것이 오히려 독이 된 셈이죠. 규제가 느슨한 틈을 타서 사용자들이 타인의 얼굴을 합성한 부적절한 이미지를 무분별하게 만들어내기 시작했거든요.
머스크는 평소 표현의 자유를 강조해 왔지만 이번에는 법적 테두리를 벗어났다는 비판을 피하기 어려워 보여요. 물론 xAI 측에서도 이미지 편집 기능에 일부 제한을 두기 시작했지만 캘리포니아 법무부는 그것만으로는 부족하다고 판단해 이번 명령을 강행한 것이라고 하네요.
일본부터 인도네시아까지 전 세계가 머스크의 AI를 주시하는 이유
이 문제는 비단 미국 캘리포니아만의 일이 아니더라고요. 일본과 캐나다 그리고 영국에서도 이미 그록의 이미지 생성 기능에 대한 조사에 착수했어요. 특히 말레이시아와 인도네시아 같은 국가에서는 아예 그록 플랫폼 자체를 일시적으로 차단하는 강수를 두기도 했답니다.
기술의 발전 속도가 법적 규제를 앞지르다 보니 전 세계 정부가 동시에 긴장하고 있는 모습이에요. 딥페이크 기술이 범죄에 악용되는 속도가 워낙 빠르다 보니 각국 정부도 시민들의 사생활과 안전을 보호하기 위해 발 빠르게 움직이고 있는 것이죠.
머스크와 xAI의 반응은 어땠을까요?
재미있는 점은 외신들이 이번 사태에 대해 xAI 측에 코멘트를 요청했을 때 돌아온 답변이에요. 테크크런치(TechCrunch)가 보낸 문의 메일에 xAI는 “기성 언론은 거짓말쟁이(Legacy Media Lies)”라는 자동 응답 메일을 보냈다고 하더라고요. 머스크 특유의 반골 기질이 드러나는 대목이지만 법적인 압박 앞에서도 이런 태도를 유지할 수 있을지는 의문이에요.
하지만 X(구 트위터)의 안전 계정에서는 불법 콘텐츠를 생성하거나 유도하는 사용자들에게 엄중한 책임을 묻겠다고 공지하기도 했어요. 내부적으로는 규제를 강화하면서도 외부적으로는 언론에 대한 불만을 드러내는 이중적인 전략을 취하고 있는 듯 보여요.
다른 소셜 미디어 플랫폼들도 딥페이크 문제에서 자유롭지 않아요
사실 이런 문제는 xAI만의 고민은 아니에요. 미국 의회에서는 이미 Reddit, Snap, TikTok, Alphabet, Meta 같은 거대 테크 기업 경영진들에게 서한을 보내 딥페이크 확산을 어떻게 막을 것인지 따져 묻고 있거든요. 생성형 AI 도구가 무료로 널리 보급되면서 누구나 쉽게 가짜 이미지를 만들 수 있게 된 것이 근본적인 원인이라고 볼 수 있어요.
앞으로 기업들이 단순히 기술력만 뽐낼 것이 아니라 그 기술이 사회에 끼칠 영향력을 얼마나 책임감 있게 관리하는지가 기업의 생존을 결정짓는 중요한 요소가 될 것 같아요.
마무리
오늘은 캘리포니아 법무부가 머스크의 xAI에 내린 중단 명령에 대해 자세히 살펴봤어요. 인공지능 기술이 우리 삶을 편리하게 만들어주기도 하지만 그만큼 강력한 위험성도 내포하고 있다는 것을 다시 한번 실감하게 되네요. 딥페이크 범죄로부터 안전한 온라인 환경을 만들기 위해서는 기업의 윤리적 책임과 정부의 적절한 규제가 조화를 이루어야 할 시점인 것 같아요. 여러분은 머스크의 이런 자유분방한 기술 철학에 대해 어떻게 생각하시나요?
출처: https://techcrunch.com/2026/01/16/california-ag-sends-musks-xai-a-cease-and-desist-order-over-sexual-deepfakes/
이어서 보면 좋은 글
#머스크 #xAI #그록 #딥페이크 #캘리포니아법무부 #인공지능규제 #Grok #일론머스크 #AI윤리 #디지털범죄예방