최근 X(구 트위터)의 AI 챗봇 그록이 여성의 사진을 동의 없이 나체 이미지로 합성하는 사태가 벌어져 충격을 주고 있어요. 영국 리즈 켄달 장관이 처벌 강화를 예고했지만 이는 사후 처방일 뿐이라는 지적이 나오는데요. 이제는 사건 발생 후 삭제를 요청하는 게 아니라 생성 단계부터 원천 차단하는 기술적 예방이 절실한 시점이에요.
X 그록이 불러온 충격적인 딥페이크 현실
SNS에 예쁜 옷을 입고 사진을 올렸는데 불과 몇 분 만에 누군가 AI를 이용해 나체로 합성한 사진을 댓글로 단다면 얼마나 끔찍할까요. 실제로 나나 느와추쿠 연구원의 조사에 따르면 최근 몇 달간 그록을 이용해 비동의 성착취물을 제작해달라는 요청이 수백 건이나 확인되었더라고요. 과거에는 전문 기술이 있어야 가능했던 일이 이제는 단순한 채팅 명령만으로 누구나 할 수 있게 되면서 피해 규모가 걷잡을 수 없이 커지고 있는 상황이에요.
영국 정부 리즈 켄달 장관의 강력한 대응책
사태가 심각해지자 영국 기술부 장관 리즈 켄달은 강력한 법적 대응을 선포했어요. 비동의 친밀 이미지를 생성하는 행위 자체를 범죄로 규정하고 이런 기능을 제공하는 앱 공급을 전면 차단하겠다는 계획이죠. 하지만 전문가들은 법률이 기술의 발전 속도를 따라가지 못한다고 우려해요. 이미 이미지가 생성되어 유포된 뒤에 처벌하는 방식은 피해자의 삶을 온전히 되돌려주기에는 한계가 분명하기 때문이에요.
유료화만으로 해결될까 X의 소극적인 태도
X는 비난이 쏟아지자 그록의 이미지 생성 기능을 유료 구독자만 사용할 수 있게 제한했어요. 하지만 이건 근본적인 해결책이 아니라는 비판이 많아요. 오히려 플랫폼이 여성과 미성년자에 대한 성희롱으로 수익을 창출하는 구조를 방치하는 셈이니까요. 수영복 사진 생성을 제한하는 등의 임시방편을 내놓긴 했지만 왜 애초에 이런 기능이 가능하도록 설계되었는지에 대한 책임 있는 답변은 부족한 상태예요.
왜 사후 처벌보다 기술적 예방이 더 중요한가요
포토샵 같은 편집 도구는 사용자의 기술이 필요하고 유포의 책임이 명확했어요. 하지만 AI는 텍스트 입력 한 번에 수많은 가해 이미지를 순식간에 양산해내죠. 이미 온라인상에 퍼진 이미지는 완벽한 삭제가 불가능에 가까워요. 그래서 리즈 켄달 장관의 규제안도 중요하지만 생성형 AI 기업들이 개발 단계부터 부적절한 입력어를 필터링하고 독립적인 보안 감사를 받도록 강제하는 법적 기술 요건이 우선되어야 한다고 봐요.
미국과 영국의 AI 규제 온도 차이가 주는 숙제
영국은 AI 안전 규제를 강화하려 하지만 미국의 상황은 조금 달라요. 트럼프 행정부는 미국 AI 산업의 글로벌 패권을 위해 규제를 최소화하려는 움직임을 보이고 있거든요. AI는 국경이 없는 기술이라 영국에서 아무리 처벌법을 만들어도 샌프란시스코에서 개발된 프로그램의 설계를 직접 바꿀 수는 없다는 게 큰 난관이에요. 결국 국가 간의 협력이 없다면 우리 아이들의 안전을 보장하기 어려운 게 현실이에요.
우리 스스로를 지키기 위해 필요한 변화들
플랫폼 기업을 더 이상 믿을 수 없다는 목소리가 커지고 있어요. 이제는 ‘피해가 발생하면 삭제하겠다’는 약속이 아니라 ‘피해를 줄 수 있는 시스템은 아예 배포하지 못한다’는 입증 책임이 기업에 주어져야 해요. 우리 역시 SNS를 이용할 때 프라이버시 설정을 다시 한번 점검하고 무분별한 AI 도구 사용의 위험성을 인지하는 태도가 필요해요. 안전한 디지털 세상을 만드는 일은 정부와 기업 그리고 우리 모두의 관심에서 시작되니까요.
마무리
지금 이 순간에도 AI 기술은 우리 상상보다 빠르게 진화하고 있어요. 기술이 주는 편리함 뒤에 숨은 어두운 그림자를 외면한다면 그 피해는 고스란히 우리 자신이나 소중한 사람들에게 돌아올 수 있답니다. 딥페이크 성범죄에 대한 강력한 법적 규제와 함께 기업의 윤리적 책임이 기술적으로 구현될 수 있도록 우리 모두가 꾸준히 목소리를 내야 할 때예요.
출처: https://www.theguardian.com/commentisfree/2026/jan/14/liz-kendall-x-grok-nudification
이어서 보면 좋은 글
- Stack Overflow, AI 위기 앞에서 CEO가 꺼낸 ‘코드 레드’ 전략 3가지! 개발자들의 진짜 속마음은?
- 까몬 운중동 쌀국수 서판교 베트남 맛집 마라 쌀국수와 해산물 볶음밥 후기
#AI성범죄 #딥페이크처벌 #X그록 #리즈켄달 #디지털성범죄예방 #AI규제 #영국AI법 #SNS보안 #데이터프라이버시 #인공지능윤리