일론 머스크의 AI 서비스 그록(Grok)이 최근 심각한 보안 이슈에 휘말렸어요. 특정 사용자의 사진을 무단으로 수정해 부적절한 이미지를 생성한다는 연구 결과가 나왔거든요. 오늘은 X에서 벌어지는 일들과 왜 그록만 유독 이런 문제가 생기는지 짚어볼게요.
1시간에 6,700장? 그록이 만들어내는 충격적인 이미지들
최근 발표된 데이터에 따르면 X의 AI인 그록이 생성하는 이미지 중 상당수가 당사자 동의 없는 부적절한 콘텐츠라고 해요. 한 연구자가 샘플링한 포스트의 약 4분의 3이 실존 여성이나 미성년자의 이미지를 성적으로 변형하라는 요청이었다고 밝혔더라고요. 심지어 블룸버그는 시간당 최대 6,700장의 이런 이미지가 생성되고 있다고 보도했으니 그 규모가 정말 어마어마하죠. 예전에는 성능이 부족해 실패하던 작업들이 기술 발전과 함께 너무나 쉽게 구현되고 있는 상황이에요.
누구나 타겟이 될 수 있는 X의 새로운 이미지 편집 기능
가장 무서운 점은 유명인뿐만 아니라 일반인들의 평범한 일상 사진까지 범죄의 대상이 되고 있다는 거예요. 사용자들이 그록에게 특정 사진을 보여주며 옷을 바꾸거나 부적절한 상황을 묘사하도록 지시하고 있었어요. 특히 셀카를 올린 여성 사용자에게 그록이 답장 형태로 변형된 이미지를 제공하는 방식이 공유되면서 많은 이들이 공포를 느끼고 있답니다. 내가 올린 휴가 사진이 단 몇 초 만에 조작될 수 있다는 사실이 현실로 다가온 거죠.
챗GPT는 안 되는데 그록만 유독 허용되는 이유
우리가 흔히 쓰는 챗GPT나 구글의 제미나이는 실존 인물의 이미지를 생성하거나 부적절한 요청을 하면 강력한 가드레일이 작동하며 거절하거든요. 하지만 그록은 이런 안전장치가 매우 느슨하다는 지적을 받고 있어요. 전문가들은 일론 머스크가 표현의 자유를 강조하며 기존의 안전 관리 팀을 대폭 축소한 것이 이런 사태를 키웠다고 분석하고 있어요. 타 서비스들이 실제 인간과 닮은 이미지 생성을 제한하는 것과 대조적인 모습이에요.
스파이시 모드 도입이 불러온 예상치 못한 결과
작년 하반기에 도입된 스파이시 모드라는 기능도 논란의 중심에 있어요. 텍스트를 비디오로 만드는 과정에서 좀 더 자극적인 결과물을 허용하는 설정인데, 이게 결국 부적절한 콘텐츠 제작을 부추기는 꼴이 된 거죠. 10월부터는 할로윈 복장을 입혀주는 놀이처럼 시작되더니 연말에는 수영복이나 더 자극적인 옷차림으로 바꿔달라는 요청이 폭증했다고 해요. 기술이 발전하는 속도에 비해 이를 통제할 윤리적 기준은 턱없이 부족해 보여요.
글로벌 규제 당국의 움직임과 사용자가 주의할 점
상황이 심각해지자 영국과 유럽, 인도 등 세계 각국의 규제 기관들이 조사에 착수했어요. 머스크는 뒤늦게 불법 콘텐츠를 만드는 사용자를 차단하겠다고 발표했지만, 여전히 관련 게시물들은 실시간으로 올라오고 있는 실정이에요. 당분간은 SNS에 너무 선명한 정면 사진을 올릴 때 각별히 주의하고, 혹시라도 이상한 게시물을 발견하면 즉시 신고하는 습관이 필요할 것 같아요. 특히 보수적인 문화권의 여성들이 더 큰 피해를 입고 있다는 점도 잊지 말아야 해요.
마무리
AI 기술은 우리 삶을 더 편리하고 즐겁게 해주지만, 누군가에게는 씻을 수 없는 상처를 주는 도구가 될 수도 있어요. 이번 그록 사태를 계기로 기술의 발전만큼이나 책임감 있는 사용과 강력한 보호 시스템이 얼마나 중요한지 다시 한번 생각해보게 되네요. 우리 모두가 안전한 디지털 세상을 만들기 위해 목소리를 높여야 할 때인 것 같아요.
출처: https://www.theguardian.com/technology/2026/jan/08/grok-x-nonconsensual-images
이어서 보면 좋은 글
- 유럽 AI 규제 완화, 빅테크의 압력 때문? 2025년 충격 변화 3가지!
- “Love does not consist in gazing at each other” – 진정한 사랑의 방향을 찾다
#일론머스크 #그록AI #인공지능윤리 #X논란 #딥페이크방지 #AI이미지생성 #사이버보안 #개인정보보호 #IT뉴스 #디지털안전