최근 평범한 여고생의 일상이 딥페이크 기술로 파괴된 사건이 알려지면서 큰 충격을 주고 있어요. 정교해진 AI 기술이 범죄에 이용되고 있지만, 정작 가해자를 잡거나 관련 앱을 폐쇄하는 법적 절차는 너무나도 더디고 복잡한 게 현실이더라고요.
뉴저지 고등학생을 울린 ClothOff 앱의 충격적인 정체
이번 소송의 시작은 뉴저지의 한 고등학생이 겪은 끔찍한 일이었어요. 동급생들이 피해자의 인스타그램 사진을 이용해 ‘ClothOff’라는 앱으로 음란물을 제작해 유포한 사건인데요. 이 앱은 이름 그대로 사진 속 인물의 옷을 제거하는 딥페이크 특화 도구였어요.
- 평범한 일상 사진이 단 몇 초 만에 불법 제작물로 변해요.
- 피해자는 당시 14세로, 이는 법적으로 명백한 아동 학대 이미지에 해당하죠.
- 하지만 학교와 지역 경찰은 기기 증거 확보가 어렵다는 이유로 수사에 난항을 겪었어요.
왜 불법 딥페이크 앱은 2년 넘게 운영될 수 있었을까?
ClothOff 같은 앱은 구글이나 애플 앱스토어에서 퇴출당해도 끈질기게 살아남아요. 텔레그램 봇이나 웹사이트를 통해 여전히 서비스를 제공하고 있거든요. 예일대 법대 클리닉이 이 앱을 완전히 폐쇄하기 위해 소송을 제기했지만, 그 과정이 정말 험난하더라고요.
- 운영 주체가 영국령 버진아일랜드에 법인을 두고 벨라루스에서 운영되는 것으로 추정돼요.
- 서버와 운영자가 전 세계에 흩어져 있어 법적 문서를 전달하는 것조차 수개월이 걸려요.
- 플랫폼 자체가 익명성 뒤에 숨어 있어 법망을 피하기가 너무 쉬운 구조예요.
일론 머스크의 Grok과 ClothOff의 법적 처벌 차이점
최근 일론 머스크의 xAI에서 만든 ‘Grok’도 유사한 논란에 휩싸였지만, 두 사례는 법적으로 다르게 다뤄져요. ClothOff는 처음부터 불법 제작을 목적으로 마케팅된 앱인 반면, Grok은 범용 AI 도구이기 때문이죠.
- ClothOff: 제작 의도가 명확해 처벌 근거를 찾기 상대적으로 수월해요.
- Grok: 사용자가 악용하는 것이라 플랫폼의 ‘고의성’을 입증하기가 매우 까다로워요.
- 미국 법 체계에서는 플랫폼의 표현의 자유를 중시하는 수정헌법 제1조가 강력한 방어막이 되기도 하거든요.
미국 수정헌법이 딥페이크 처벌의 걸림돌이 되는 이유?
전문가들은 미국의 강력한 표현의 자유 보호 원칙이 때로는 범죄 예방의 장애물이 된다고 지적해요. 아동 학대물은 보호 대상이 아니지만, 일반적인 성인 딥페이크의 경우 플랫폼이 이를 ‘인지하고 방조했는지’를 증명해야 하거든요.
- 플랫폼이 시스템을 설계할 때부터 범죄 가능성을 무시했는지 입증해야 해요.
- 일론 머스크가 안전 가이드를 완화하라고 지시했다는 보고가 있지만, 이를 법적 ‘무모함’으로 연결하는 건 또 다른 문제예요.
- 그래서 영국이나 인도 같은 국가들이 미국보다 훨씬 빠르게 딥페이크 서비스 차단에 나서고 있는 상황이죠.
피해자가 당장 할 수 있는 현실적인 대응 방법은?
소송은 오래 걸리고 가해자를 잡기는 힘들지만, 그렇다고 손 놓고 있을 수는 없어요. 전문가들은 피해 발생 시 즉각적인 증거 수집과 신고를 강조해요.
- 해당 게시물의 URL과 화면을 캡처해 증거를 확보하세요.
- ‘Take It Down’ 같은 전문 서비스를 통해 이미지 확산을 차단하는 도움을 받을 수 있어요.
- 플랫폼 고객센터뿐만 아니라 방송통신심의위원회 등 공공기관에 즉시 삭제 요청을 하셔야 해요.
마무리
딥페이크 기술의 발전은 우리에게 편리함을 주기도 하지만, 누군가의 삶을 송두리째 흔드는 무기가 되기도 해요. 이번 뉴저지 소송 결과가 플랫폼의 책임을 더 강하게 묻는 중요한 전환점이 되길 바라요. 우리 모두가 디지털 환경에서의 에티켓과 보안에 더 관심을 가져야 할 때인 것 같습니다.
출처: TechCrunch
이어서 보면 좋은 글
#딥페이크 #뉴저지소송 #AI윤리 #디지털성범죄 #ClothOff #xAI #Grok #법적대응 #사이버수사 #기술트렌드