딥페이크로 제작된 부적절한 이미지들이 X(옛 트위터)에서 무분별하게 확산되면서 여성 단체들이 애플과 구글에 X 앱 퇴출을 강력히 요구하고 나섰어요. xAI의 인공지능 그록(Grok)이 범죄에 악용되고 있다는 비판 때문인데요. 이번 사태의 핵심 내용과 앞으로의 전망을 정리해 드릴게요.
왜 28개 단체가 팀 쿡과 순다르 피차이에게 편지를 보냈을까요?
이번 사건은 단순히 개인의 불만을 넘어서 조직적인 움직임으로 번지고 있어요. 여성 인권 단체인 울트라바이올렛(UltraViolet)을 포함해 무려 28개의 시민단체가 힘을 합쳤거든요. 이들은 애플의 팀 쿡과 구글의 순다르 피차이에게 공개 서한을 보내 X와 그록을 앱스토어에서 당장 삭제하라고 압박하고 있어요.
시민단체들이 화가 난 이유는 명확해요. X가 자사의 AI 도구인 그록을 통해 생성되는 비동의 성적 딥페이크 이미지를 방치하고 있다는 점이죠. 특히 아동 성 착취물과 관련된 콘텐츠까지 만들어지고 있다는 주장이 나오면서 사태의 심각성이 더해지고 있더라고요.
그록(Grok)이 생성하는 딥페이크 이미지는 왜 더 위험할까요?
일반적인 이미지 생성 AI들은 부적절한 키워드를 입력하면 생성 자체를 거부하는 안전장치가 꽤 강력한 편이에요. 하지만 일론 머스크의 xAI가 만든 그록은 상대적으로 이런 제약이 느슨하다는 평가를 받아왔어요.
이런 점을 악용해서 여성이나 미성년자의 사진을 도용해 디지털로 옷을 벗기는 식의 악질적인 콘텐츠가 대량으로 제작되고 있대요. 시민단체들은 그록이 이런 범죄를 돕는 도구로 전락했다고 비판하며, 이것이 단순한 기술적 결함이 아니라 구조적인 문제라고 지적하고 있어요.
애플과 구글의 앱스토어 정책 위반이라는 주장
애플과 구글은 자기들의 앱 마켓을 운영하면서 엄격한 가이드라인을 세워두고 있어요. 유해 콘텐츠를 방치하거나 범죄를 조장하는 앱은 언제든지 삭제될 수 있다는 원칙이죠. 시민단체들은 X가 이 가이드라인을 명백히 위반했다고 목소리를 높이고 있어요.
실제로 과거에 다른 앱들이 비슷한 이유로 앱스토어에서 사라졌던 전례가 있거든요. 이번 서한에서는 두 거대 테크 기업이 X를 방치하는 것이 단순히 방관을 넘어 이런 범죄 콘텐츠를 통해 수익을 올리는 공범이나 다름없다는 강한 표현까지 썼더라고요.
유료 구독자 전용 서비스로도 막을 수 없는 위협
X 측에서도 나름의 방어책을 내놓긴 했어요. 그록의 이미지 생성 기능을 유료 구독자에게만 허용하는 식으로 진입 장벽을 높인 거죠. 하지만 시민단체들은 이게 오히려 독이 된다고 보고 있어요.
돈만 지불하면 누구든 딥페이크를 만들 수 있는 권한을 파는 꼴이라는 비판이에요. 오히려 범죄 도구를 수익화하고 있다는 따가운 시선을 피하기 어려워 보였어요. 아무리 유료 서비스라고 해도 결과물이 공개적인 X 플랫폼에 유통되는 이상 피해를 막기에는 역부족이라는 분석이 많더라고요.
글로벌 시민단체들의 ‘Get Grok Gone’ 캠페인 의미
이번 서한 발송은 ‘그록을 없애라(Get Grok Gone)’라는 더 큰 캠페인의 시작일 뿐이에요. 울트라바이올렛은 ‘영역 되찾기(Reclaim the Domain)’라는 캠페인을 론칭하면서 온라인에서 여성과 소수자의 안전을 지키기 위한 전면전을 선포했거든요.
단순히 X라는 특정 플랫폼을 공격하는 것을 넘어서서, AI 기술이 가져올 수 있는 잠재적인 해악에 대해 전 세계적인 경각심을 일깨우려는 의도로 읽혀요. 기술 발전의 속도를 법과 윤리가 따라가지 못하는 현재 상황에 대한 강력한 경고 메시지인 셈이죠.
앱스토어에서 정말 X가 사라질 수 있을까요?
현실적으로 X 같은 거대 플랫폼이 앱스토어에서 한순간에 사라지는 일은 일어나기 쉽지 않아요. 하지만 애플과 구글이 받는 압박은 전례 없는 수준일 거예요. 두 회사가 이번 요구에 어떤 답변을 내놓느냐에 따라 향후 AI 생성 콘텐츠에 대한 플랫폼의 책임 범위가 결정될 것 같아요.
앞으로 X가 더 강력한 필터링 시스템을 도입할지, 아니면 애플과 구글이 정말로 강력한 제재를 가할지 지켜봐야 할 포인트예요. 기술의 자유도 중요하지만 누군가의 삶을 파괴할 수 있는 딥페이크 문제만큼은 절대 가볍게 넘어가서는 안 된다는 공감대가 형성되고 있거든요.
마치며
이번 사태를 보면서 인공지능 기술이 우리에게 주는 편리함만큼이나 그 이면의 어두운 그림자도 정말 크다는 걸 실감하게 되네요. 딥페이크 범죄로부터 안전한 디지털 환경을 만드는 것은 이제 기업의 선택이 아닌 필수 의무가 된 것 같아요. 우리 모두가 이 문제에 지속적으로 관심을 가져야만 더 안전한 온라인 세상을 만들 수 있지 않을까 싶어요.
출처: The Verge