일론 머스크의 AI 그록이 여성 대상 성적 폭력 영상 제작에 악용되고 있다는 충격적인 연구 결과가 나왔어요. 가디언지 보도에 따르면 무려 800개가 넘는 음란물이 제작되었다고 하는데요. 안전장치가 무너진 생성형 AI의 위험성과 X 플랫폼의 대응 실태를 구체적으로 정리해 드릴게요.
AI 포렌식 보고서가 밝힌 그록의 충격적인 결과물
파리에 본부를 둔 비영리 단체 AI 포렌식은 최근 일주일 동안 그록 이매진 앱으로 제작된 이미지와 영상들을 분석했어요. 그 결과 약 800개에 달하는 포르노 콘텐츠가 발견되었는데요. 연구원 폴 부쇼는 이 영상들이 단순히 어설픈 수준이 아니라 전문가가 만든 것처럼 매우 정교하게 제작되었다고 경고했더라고요. 특히 문신을 한 여성을 대상으로 하거나 신체 노출을 유도하는 등 매우 자극적이고 폭력적인 내용이 포함되어 있어서 많은 이들에게 충격을 주고 있어요.
고인이 된 피해자까지 능욕하는 끔찍한 딥페이크
가장 화가 나는 부분은 최근 미국에서 안타깝게 목숨을 잃은 여성을 대상으로 한 범죄예요. 이민세관집행국 요원에 의해 사망한 르네 니콜 굿의 사진을 그록에게 입력하고 옷을 벗기라는 명령을 내린 사례가 포착되었거든요. 심지어 그녀의 이마에 총상을 입힌 이미지를 생성하기도 했다니 정말 믿기지 않는 일이더라고요. 인공지능이 인간의 존엄성을 이렇게까지 훼손할 수 있다는 사실에 많은 사람이 분노하고 있는 상황이에요.
키어 스타머 영국 총리가 격노하며 내뱉은 한마디
상황이 이렇다 보니 국가 수장들도 직접 목소리를 내기 시작했어요. 키어 스타머 영국 총리는 이번 사태를 보고 정신 차려라라고 강하게 비판했더라고요. X 플랫폼에 떠도는 반나체 여성과 아이들의 사진들이 정말 역겹고 부끄러운 수준이라며 강한 어조로 비난했어요. 영국 정부는 이런 불법적인 콘텐츠를 용납하지 않을 것이며 X가 제대로 된 조치를 취하지 않는다면 모든 수단을 동원해 대응하겠다고 선언했답니다.
안전장치는 왜 작동하지 않았고 범죄에 이용됐을까
그록은 다른 생성형 AI들에 비해 규제가 느슨하다는 지적을 꾸준히 받아왔어요. 연구팀이 X에서 그록을 언급한 글들을 분석해 보니 옷을 벗겨라라거나 비키니를 입혀라 같은 명령어가 굉장히 많이 쓰이고 있었더라고요. 심지어 10대 소녀가 올린 개인 사진을 다른 사용자들이 가로채서 그록에게 음란한 편집을 요구하는 사례도 있었어요. 공유 링크를 통해 누구나 볼 수 있게 노출되면서 인터넷 아카이브에까지 박제되는 심각한 보안 결함을 보여주고 있죠.
일론 머스크와 X는 이 상황을 어떻게 보고 있나
일론 머스크는 예전부터 그록을 자유로운 AI로 홍보해 왔지만 이번 논란에는 조금 다른 입장을 내놓았어요. 불법 콘텐츠를 만드는 사용자는 불법 게시물을 올린 것과 동일한 처벌을 받게 될 것이라고 경고했거든요. 하지만 현장 전문가들은 머스크의 이런 발언만으로는 부족하다고 입을 모으고 있어요. 플랫폼 자체적으로 필터링 시스템을 강화하고 근본적인 방지책을 마련해야 하는데 지금의 X는 그런 노력이 너무 부족해 보인다는 게 공통된 의견이에요.
우리가 인공지능 윤리에 대해 다시 생각해야 하는 이유
기술이 발전하는 속도를 법과 윤리가 따라가지 못할 때 어떤 비극이 발생하는지 이번 사건이 잘 보여주고 있어요. 생성형 AI는 분명 우리 삶을 풍요롭게 할 도구지만 악의적인 목적으로 사용될 때는 타인의 삶을 송두리째 파괴할 수도 있거든요. 단순히 재미로 딥페이크를 만들거나 공유하는 행위가 범죄라는 인식을 가져야 해요. 정부와 기업이 더 강력한 가이드라인을 만들도록 우리 모두가 관심을 가져야 할 때인 것 같아요.
지금까지 그록 AI를 둘러싼 충격적인 성범죄 악용 실태를 살펴봤는데요. 우리 주변에서도 일어날 수 있는 일인 만큼 디지털 에티켓과 보안에 더욱 신경 써야겠더라고요. 여러분은 이번 사태에 대해 어떻게 생각하시나요? 기술의 자유와 규제 사이에서 우리가 나아가야 할 방향에 대해 한 번쯤 고민해 보셨으면 좋겠어요.
이어서 보면 좋은 글
#그록AI #일론머스크 #인공지능윤리 #딥페이크 #가디언 #IT뉴스 #성범죄예방 #디지털성범죄 #X플랫폼 #AI안전성