일론 머스크의 X가 Grok AI를 통한 부적절한 이미지 생성을 차단했다고 발표했지만 여전히 가짜 알몸 이미지가 쉽게 만들어지고 있어 충격을 주네요. 실제 인물의 사진을 올리고 명령어를 입력하면 단 몇 초 만에 정교한 딥페이크 영상이 생성되는 심각한 보안 구멍이 발견된 건데요.
일론 머스크의 호언장담과 다른 Grok AI의 현실
X(구 트위터)는 최근 부적절한 콘텐츠 생성에 대해 무관용 원칙을 세우고 기술적 조치를 완료했다고 밝혔었죠. 하지만 실상은 구멍이 숭숭 뚫려 있더라고요. 영국의 가디언 취재진이 직접 실험해본 결과 평범한 옷을 입은 여성의 사진이 아주 짧은 시간 안에 비키니 차림의 성적인 영상으로 변하는 것을 확인했대요. 사용자가 원한 것보다 더 나아가 옷을 벗는 듯한 도발적인 동작까지 AI가 스스로 만들어냈다는 점이 정말 소름 돋는 부분이에요.
독립형 앱 Grok Imagine의 위험한 보안 사각지대
이번에 문제가 된 건 웹 브라우저를 통해 쉽게 접속할 수 있는 ‘Grok Imagine’이라는 서비스인데요. X 플랫폼 내부에서는 어느 정도 제한을 걸었을지 모르지만 이 독립형 서비스는 여전히 노골적인 명령에 아주 충실하게 반응하고 있었어요. 규제를 피하기 위한 일종의 우회로가 대놓고 열려 있는 셈이죠. 유료 구독자뿐만 아니라 누구나 이런 도구에 접근할 수 있다는 사실이 디지털 성범죄의 위험을 키우고 있어요.
영국 총리와 정치권이 분노하며 조사에 착수한 배경
키어 스타머 영국 총리는 Grok AI가 만들어낸 결과물들을 두고 ‘역겹고 수치스러운 일’이라며 강력하게 비판했는데요. 표현의 자유라는 명목 아래 타인의 동의를 무시하고 인격을 모독하는 행위는 절대 용납될 수 없다는 입장이에요. 현재 영국의 미디어 규제 기관인 오프콤(Ofcom)에서도 이 사안을 매우 엄중하게 보고 정식 조사에 착수한 상태라고 하니 결과가 주목되네요.
딥페이크 영상이 X에 그대로 게시되는 심각한 문제
단순히 이미지를 만드는 것에서 끝나지 않고 이런 성적인 영상들이 X의 공개 타임라인에 아무런 제재 없이 올라간다는 게 더 큰 문제예요. 필터링 시스템이 제대로 작동하지 않으니 게시물이 올라오자마자 전 세계 누구나 볼 수 있는 구조더라고요. 인공지능 기술이 범죄에 악용되는 속도를 플랫폼의 정화 기능이 전혀 따라가지 못하는 안타까운 상황이죠.
내 사진도 타깃이 될까? 사용자가 주의해야 할 점
이제는 유명 정치인이나 연예인뿐만 아니라 일반인의 평범한 일상 사진도 Grok AI 같은 도구의 타깃이 될 수 있는 시대가 되었어요. 실제로 가디언의 실험에서도 실존 여성의 사진이 도용되었거든요. 온라인에 사진을 올릴 때 더 주의를 기울여야 한다는 사실이 씁쓸하지만 지금으로선 개인의 보안 의식 외에 뚜렷한 방어책이 없는 게 현실이에요.
기술 기업의 안전 불감증과 수익 중심의 행보
많은 전문가는 머스크와 기술 기업들이 안전성 검증보다는 화제성이나 수익을 우선시한다고 꼬집고 있어요. 이번 논란으로 구글 트렌드에서 Grok 검색량이 급증하자 머스크는 오히려 ‘Grok을 직접 써보라’며 홍보에 열을 올리는 모습을 보였거든요. 기업이 사회적 책임을 다하지 않고 방치할 때 그 피해는 고스란히 무고한 이용자들에게 돌아가게 된다는 걸 잊지 말아야 해요.
마무리
인공지능 기술이 하루가 다르게 발전하고 있지만 그에 걸맞은 윤리적 가이드라인은 아직 제자리걸음인 것 같아 마음이 무겁네요. Grok AI 같은 강력한 도구가 누군가의 인권을 짓밟는 무기가 되지 않도록 플랫폼의 기술적 보완과 강력한 법적 규제가 시급해 보여요. 우리 모두가 이 문제에 대해 더 큰 목소리를 내고 감시의 눈을 늦추지 말아야 할 때입니다.
이어서 보면 좋은 글
#GrokAI #딥페이크 #일론머스크 #X #트위터 #인공지능윤리 #디지털성범죄 #보안뉴스 #IT이슈 #영국뉴스