최근 일론 머스크의 인공지능인 그록(Grok)이 대부분의 사용자에게 이미지 생성 기능을 차단했다는 소식이 들려왔어요. 부적절한 성적 이미지와 폭력적인 콘텐츠 생성으로 인한 논란 때문인데 과연 어떤 내막이 있는지 지금 바로 핵심만 정리해 드릴게요.
그록 이미지 생성기가 갑자기 멈춘 진짜 이유
이번 조치는 그록이 여성의 나체나 성적인 포즈를 취하도록 이미지를 조작하는 데 악용되었다는 강력한 비판이 제기되면서 시작되었어요. 특히 영국 정부를 포함한 전 세계 규제 당국이 엑스(X)를 차단하거나 막대한 벌금을 부과하겠다고 경고하자 일론 머스크가 결국 꼬리를 내린 모양새예요. 이전까지는 누구나 자유롭게 이미지를 만들 수 있었지만 이제는 유료 구독자만 이 기능을 사용할 수 있도록 바뀌었더라고요.
영국 정부가 일론 머스크에게 강력한 경고장을 날린 사연
키어 스타머 영국 총리는 이번 사태를 두고 아주 이례적으로 강도 높은 비판을 쏟아냈어요. 인공지능으로 만든 부적절한 이미지들이 플랫폼에 넘쳐나는 것을 두고 수치스럽고 역겨운 일이라고 표현했거든요. 특히 영국의 온라인 안전법(Online Safety Act)에 따라 규제 기관인 오프콤(Ofcom)이 사이트 차단이나 글로벌 매출의 10%에 달하는 벌금을 매길 수 있다고 압박한 것이 결정적인 계기가 된 것 같아요.
유료 결제자만 허용한 것이 과연 해결책이 될까요
이제는 월 구독료를 내는 유료 사용자만 그록의 이미지 생성 기능을 쓸 수 있어요. 엑스 측은 유료 사용자의 경우 신용카드 정보와 개인 신상 정보가 기록되기 때문에 오남용이 발생했을 때 추적이 가능하다는 점을 내세우고 있더라고요. 하지만 시민단체들은 돈을 내면 여전히 누군가의 동의 없이 성적인 이미지를 만들 수 있다는 점을 지적하며 이 기능 자체를 완전히 없애야 한다고 주장하고 있어요.
인공지능 딥페이크 성범죄의 심각성을 보여준 사례
프랑스의 한 비영리 단체인 AI 포렌식의 조사 결과는 정말 충격적이었어요. 그록을 통해 만들어진 약 800여 개의 이미지와 영상을 분석했더니 전문가 수준의 포르노 영상뿐만 아니라 폭력적인 장면들이 다수 포함되어 있었거든요. 단순히 기술의 발전을 즐기는 수준을 넘어 타인의 인권을 심각하게 침해하는 도구로 전락했다는 증거들이 속속 드러나면서 규제의 목소리가 더 커지고 있는 상황이에요.
앞으로 우리가 마주할 인공지능 윤리와 규제 방향
이번 사건은 인공지능 기술이 주는 편리함 뒤에 얼마나 큰 위험이 도사리고 있는지 잘 보여주었어요. 앞으로는 기술 기업들이 자율적으로 관리하는 시대를 지나 정부가 직접 개입하는 강력한 가이드라인이 표준이 될 것 같아요. 기술은 인간을 위해 존재해야 하는 만큼 표현의 자유라는 명목 아래 타인에게 상처를 주는 행위는 더 이상 용납되지 않는 사회 분위기가 형성되고 있답니다.
마무리
일론 머스크의 그록이 보여준 이번 행보는 인공지능 업계에 아주 큰 시사점을 던져주었어요. 유료화라는 장벽이 과연 범죄 예방의 해결책이 될 수 있을지 아니면 단순히 책임 회피를 위한 수단일지는 조금 더 지켜봐야 할 것 같아요. 여러분은 인공지능의 자유로운 창작과 강력한 규제 중 무엇이 더 중요하다고 생각하시나요? 우리 모두가 건강한 디지털 환경을 만드는 데 관심을 가져야 할 때입니다.
출처: https://www.theguardian.com/technology/2026/jan/09/grok-image-generator-outcry-sexualised-ai-imagery
이어서 보면 좋은 글
#GrokAI #인공지능윤리 #일론머스크 #딥페이크규제 #AI이미지생성기 #온라인안전법 #디지털성범죄 #엑스 #인공지능뉴스 #IT트렌드