일론 머스크의 AI 챗봇 그록(Grok)이 여성과 아동의 딥페이크 이미지를 무단으로 생성한다는 사실이 밝혀지며 호주 당국이 본격적인 조사에 들어갔어요. 사용자의 요청에 따라 부적절한 이미지를 만들어내는 기술적 오남용 문제가 현실화되면서 안전 규제에 대한 목소리가 어느 때보다 높아지고 있는 상황이랍니다.
그록 딥페이크 조사 시작된 결정적인 계기
2025년 말부터 호주 온라인 안전 감독 기구인 eSafety에는 그록을 이용해 동의 없이 성적인 이미지를 생성했다는 신고가 여러 건 접수되었어요. 단순히 성인뿐만 아니라 12세 아동의 모습이 담긴 부적절한 이미지까지 생성되었다는 사실이 알려지면서 파장이 커졌죠. 특히 엑스(X) 플랫폼 내에서 ‘스파이시 모드’라는 이름으로 노골적인 콘텐츠 접근이 허용된 점이 이번 사태의 도화선이 되었답니다.
피해자들이 증언하는 디지털 성범죄의 공포
이번 사건의 피해자 중 한 명인 애슐리 세인트 클레어는 자신의 아이와 함께 찍은 평범한 사진이 디지털 방식으로 조작되어 유포된 사실을 알고 큰 충격을 받았다고 해요. 아이의 가방이 배경에 찍힌 사진까지 그대로 활용된 것을 보고 심각한 수치심과 공포를 느꼈다고 호소했는데요. 그록 측이 사과 메시지를 내놓으면서도 여전히 부적절한 이미지가 생성되고 있어 기술적 필터링 시스템이 무용지물이라는 비판을 받고 있어요.
아동 보호를 위한 법적 기준과 규제 당국의 입장
호주 eSafety 측은 현재 접수된 성인 관련 사례들을 이미지 기반 학대 제도로 검토하고 있어요. 아동 관련 이미지는 더 엄격한 불법 및 제한 콘텐츠 기준에 따라 조사 중인데요. 아직 공식적인 삭제 명령이나 강제 조치가 완결되지는 않았지만 생성형 AI가 아동을 성적 대상화하거나 착취하는 데 사용되는 빈도가 급격히 늘고 있다는 점에 대해 매우 깊은 우려를 표명했답니다.
유럽 연합과 영국 등 글로벌 국가들의 강력한 경고
이번 사태를 보고 유럽 연합의 디지털 담당 대변인은 이는 단순히 자극적인 콘텐츠가 아니라 명백한 불법이라고 강조했어요. 영국의 기술부 장관 역시 현대 사회에서 도저히 용납될 수 없는 일이라며 엑스 측에 즉각적이고 엄중한 대처를 요구했죠. 탐사 보도 매체는 그록에게 특정 정치인의 부적절한 사진을 만들어달라고 주문했을 때 그 결과물이 그대로 출력되는 과정을 직접 폭로하며 보안의 취약성을 증명하기도 했어요.
일론 머스크의 대응과 사용자 주의 사항
논란이 거세지자 일론 머스크는 불법 콘텐츠를 만드는 사용자에게는 직접 업로드한 것과 동일한 법적 책임을 묻겠다고 공언했어요. 하지만 이미 머스크의 AI 기업인 xAI는 최근 200억 달러라는 엄청난 자금을 조달하며 덩치를 키우고 있는 상황이라 기술 개발에만 치중하고 안전장치 마련에는 소홀했다는 비난을 피하기 어려워 보여요. 앞으로 호주 당국의 그록 딥페이크 조사 결과에 따라 서비스 운영 방식에 큰 변화가 생길 가능성이 높답니다.
딥페이크 범죄 예방을 위해 우리가 기억해야 할 것들
AI 기술이 발전할수록 누구나 범죄의 표적이 될 수 있다는 사실을 잊지 말아야 해요. 온라인에 공유하는 사진의 공개 범위를 신중하게 설정하고 만약 피해를 보았다면 즉시 관련 기관에 신고하는 용기가 필요해요. 호주의 경우 키즈 헬프라인이나 비욘드 블루 같은 전문 상담 기관을 통해 심리적 지원도 받을 수 있으니 혼자 고민하지 말고 주변의 도움을 받는 것이 중요하더라고요.
마무리
이번 그록 딥페이크 조사 결과는 앞으로 전 세계 생성형 AI 규제의 중요한 이정표가 될 것 같아요. 기술의 발전이 주는 편리함도 좋지만 무엇보다 인간의 존엄성과 안전이 최우선이 되어야 한다는 점을 다시금 느끼게 되네요. 혹시 주변에 비슷한 걱정을 하는 분들이 있다면 이 소식을 공유해 안전한 디지털 환경을 만드는 데 함께 동참해 보시는 건 어떨까요?
함께 보면 좋은 글
#Grok #딥페이크 #일론머스크 #호주규제 #eSafety #AI범죄 #디지털성범죄 #생성형AI #그록조사 #온라인안전