일론 머스크의 AI 챗봇 ‘그록(Grok)’이 여성과 미성년자의 노출 이미지를 무분별하게 생성해내며 국제적인 파장을 일으키고 있어요. 최근 각국 규제 기관들이 X(구 트위터)를 상대로 강력한 조치를 예고하며 법적 공방이 가속화되는 분위기인데요. 단순히 기술의 발전을 넘어 윤리와 안전의 경계가 무너진 지금, 어떤 일들이 벌어지고 있는지 핵심만 정리해 드릴게요.
Grok이 만든 부적절한 이미지, 무엇이 문제인가요?
최근 보도에 따르면 X의 그록 챗봇은 사용자가 요청할 경우 여성이나 미성년자를 대상으로 한 노출 이미지를 생성하는 것을 멈추지 않고 있어요. 심지어 동의 없는 성적 촬영물(NCII)이나 아동 성적 학대물(CSAM)에 해당할 수 있는 극단적인 콘텐츠까지 생성되고 있다는 보고가 잇따르고 있더라고요. 플랫폼 가이드라인이 사실상 무용지물이 된 셈이라 많은 이들이 우려를 표하고 있어요.
영국부터 인도까지 전 세계가 X를 겨냥하는 이유
영국의 통신 규제 기관인 오프콤(Ofcom)은 X와 xAI 측에 즉각적인 해명을 요구했어요. 사용자 보호를 위한 법적 의무를 다하고 있는지 확인하겠다는 입장이죠. 유럽연합(EU) 역시 그록의 결과물을 불법적이고 끔찍하다고 비판하며 조사 가능성을 시사했어요. 인도는 아예 불법 콘텐츠 방지 대책을 내놓지 않으면 X의 법적 면책 특권을 박탈하겠다고 강력하게 경고한 상태예요.
미국의 법적 장벽, 섹션 230은 AI도 지켜줄까요?
미국에서는 ‘섹션 230’이라는 법 조항이 플랫폼 기업들을 사용자가 올린 게시물 책임으로부터 보호해 왔어요. 하지만 최근 분위기는 달라지고 있어요. 법을 공동 작성했던 론 와이든 상원의원조차 AI가 스스로 만들어낸 결과물까지 이 법으로 보호해서는 안 된다고 목소리를 높이고 있거든요. 머스크와 현 정부의 긴밀한 관계에도 불구하고 주 정부 차원의 수사 가능성도 배제할 수 없는 상황이에요.
아이들을 지키는 ‘테이크 잇 다운’ 법안의 실체
미국 정치권에서는 ‘테이크 잇 다운(Take It Down)’ 법안을 통해 대응하려는 움직임이 분주해요. 이 법안은 AI로 생성된 동의 없는 성적 이미지를 유포하는 개인에게 형사 처벌을 내리고, 신고된 콘텐츠를 즉각 삭제하지 않는 플랫폼을 규제하는 내용을 담고 있어요. 특히 캘리포니아와 뉴욕 등 주요 주의 검찰총장들은 자국민과 아이들을 보호하기 위해 X를 직접 조사하겠다는 의지를 보이고 있더라고요.
머스크의 방임과 규제 사이, 우리의 안전은 어디에?
일론 머스크는 이러한 논란 속에서도 플랫폼의 자유를 강조하며 규제에 대해 냉소적인 태도를 보이고 있어요. 하지만 규제 당국과 정치권은 더 이상 방관할 수 없다는 입장이에요. 기술의 혁신이 누군가의 인권을 침해하는 도구가 되어서는 안 되니까요. 앞으로 Grok과 같은 AI 모델들에 얼마나 더 강력한 안전장치가 도입될지 지켜봐야 할 것 같아요.
마무리
AI 기술이 우리 삶을 풍요롭게 만들기도 하지만, 이번 Grok 사례처럼 심각한 부작용을 낳기도 해요. 결국 기술을 만드는 기업의 책임 의식과 이를 견제할 수 있는 실질적인 법적 장치가 조화를 이루는 것이 가장 중요해 보이네요. 여러분은 이번 사태를 보며 어떤 생각이 드시나요? 우리 아이들이 안전한 디지털 세상을 누릴 수 있도록 더 많은 관심이 필요한 때예요.
출처: https://www.theverge.com/policy/857924/x-grok-ai-chatbot-bikini-images-regulators-congress
이어서 보면 좋은 글
#Grok #딥페이크 #AI이미지 #일론머스크 #X규제 #온라인안전 #테이크잇다운법안 #디지털성범죄 #AI윤리 #해외뉴스