최근 생성형 AI 기술을 악용한 비동의 성적 딥페이크 제작 도구가 모바일 앱 스토어까지 깊숙이 침투했다는 조사 결과가 나왔습니다. 구글과 애플의 공식 플랫폼에서 수많은 누디파이 앱이 발견되면서 사용자들의 불안감이 커지고 있는데요. 이는 단순한 기술적 호기심을 유발하는 수준이 아니라 심각한 권리 침해로 이어질 수 있어 각별한 주의가 필요합니다.
모바일 스토어에 잠입한 누디파이 앱의 실체
기술 투명성 프로젝트인 TTP의 최근 보고서에 따르면 구글 플레이 스토어와 애플 앱 스토어에서 비동의 성적 이미지를 생성할 수 있는 어플리케이션이 대거 발견되었습니다. 이러한 앱들은 인공지능을 활용해 사진 속 인물의 옷을 디지털 방식으로 제거하거나 신체 부위를 노출된 상태로 변형하는 기능을 제공합니다.
- 구글 플레이 스토어에서 발견된 앱: 55개
- 애플 앱 스토어에서 발견된 앱: 48개
- 주요 기능: 인물의 의상을 제거하거나 비키니 등 최소한의 의상으로 변형
이러한 도구들은 일반인들이 손쉽게 접근할 수 있는 공식 마켓플레이스에서 버젓이 유통되고 있었다는 점에서 충격을 주고 있습니다. 단순히 재미로 홍보되고 있지만 실제로는 타인의 초상권을 심각하게 훼손하는 범죄 도구로 사용될 가능성이 매우 높습니다.
왜 7억 명이 넘는 사용자가 앱을 다운로드했을까
이번에 식별된 누디파이 앱들의 누적 다운로드 횟수는 전 세계적으로 7억 500만 회를 넘어선 것으로 집계되었습니다. 더욱 놀라운 사실은 이러한 앱들을 통해 발생한 수익이 약 1억 1,700만 달러에 달한다는 점입니다. 이는 딥페이크를 이용한 불법 콘텐츠 생성이 거대한 경제적 생태계를 형성하고 있음을 시사합니다.
사용자들이 이러한 앱에 열광하는 이유는 기술의 접근성이 낮아졌기 때문입니다. 과거에는 전문적인 편집 기술이 필요했던 작업들이 이제는 스마트폰 앱 하나만으로 몇 초 만에 가능해졌습니다. 플랫폼 제공자들이 초기 필터링 과정에서 이러한 위험성을 제대로 인지하지 못한 채 배포를 허용한 결과 대규모 확산이 이루어졌습니다.
구글과 애플이 취한 사후 대응 조치의 한계
보고서가 공개된 이후 구글과 애플은 문제가 된 앱들을 일부 삭제하거나 정지시키는 조치를 취했습니다. 하지만 이러한 조치는 사후 약방문 격이라는 비판을 면하기 어렵습니다. 이미 수억 명의 기기에 앱이 설치된 이후에야 삭제가 이루어졌기 때문입니다.
- 애플: 보고된 앱 중 28개를 삭제 조치
- 구글: 여러 개의 위험 앱에 대해 서비스 정지
- 문제점: 삭제된 앱 중 일부가 다시 스토어에 재등록되는 사례 발생
이미 2024년에도 비슷한 사례가 보고되어 대응이 있었음에도 불구하고 여전히 유사한 기능의 앱들이 스토어의 검수를 통과해 등록되고 있습니다. 이는 플랫폼 기업들의 검수 시스템에 근본적인 허점이 있음을 보여주는 대목입니다.
플랫폼의 이중잣대가 논란을 키우는 이유
이번 논란에서 주목할 점은 대형 플랫폼과 중소 개발사 앱에 대한 규제 잣대가 다르다는 비판입니다. TTP 보고서는 일론 머스크의 xAI가 개발한 그록(Grok)에 대한 우려와 함께 기존 앱 스토어의 방치 문제를 동시에 지적했습니다.
그록은 수백만 건의 부적절한 이미지를 생성하며 조사를 받고 있지만 여전히 앱 스토어에서 자유롭게 이용 가능합니다. 반면 소규모 개발사들이 만든 특정 앱들은 즉각 삭제되는 행보를 보이고 있습니다. 대형 기업의 서비스에 대해서는 관대하고 일반 앱에 대해서만 엄격한 기준을 적용하는 것이 아니냐는 의문이 제기되고 있습니다.
누디파이 앱 피해를 사전에 예방하는 방법
자신의 사진이 악용되는 것을 막기 위해서는 개인 정보 보호 수칙을 철저히 준수해야 합니다. 한 번 온라인에 유포된 이미지는 완전히 삭제하기가 매우 어렵기 때문에 생성 단계부터 주의가 필요합니다.
- SNS 프로필 사진을 불특정 다수에게 공개하지 않기
- 신체 윤곽이 드러나는 사진의 온라인 게시를 자제하기
- 모르는 사람으로부터 온 이미지 링크나 앱 설치 권유 무시하기
- 발견 즉시 해당 플랫폼 및 수사 기관에 신고하기
개인의 노력도 중요하지만 근본적으로는 플랫폼 기업들이 AI 기술을 활용한 부적절한 이미지 생성을 원천 차단하는 기술적 장치를 마련해야 합니다. 또한 법적으로도 이러한 앱 제작자와 배포자에 대한 처벌 수위가 강화되어야 합니다.
안전한 디지털 환경을 만들기 위한 실천 과제
디지털 성범죄는 기술의 발전 속도만큼이나 빠르게 진화하고 있습니다. 누디파이 앱과 같은 도구들이 단순히 호기심의 대상이 아니라 타인의 삶을 파괴할 수 있는 흉기라는 점을 명확히 인식해야 합니다.
우리 모두가 감시자가 되어 부적절한 앱을 발견하면 즉시 신고하고 건전한 디지털 문화를 조성하는 데 동참해야 합니다. 플랫폼 기업들 역시 수익 창출보다는 사용자 보호를 최우선 가치로 삼고 더 정교한 모니터링 시스템을 구축해야 할 시점입니다.
마치며
오늘 살펴본 누디파이 앱 사태는 AI 기술의 어두운 이면을 여실히 보여줍니다. 편리함 뒤에 숨겨진 위험으로부터 자신과 주변 사람들을 보호하기 위해 끊임없는 관심이 필요합니다. 더 이상 기술이 범죄의 수단으로 전락하지 않도록 우리 모두의 노력이 모여야 할 때입니다.
출처: https://www.theverge.com/news/868614/nudify-apps-ttp-report-google-apple-app-stores
이어서 보면 좋은 글
#누디파이앱 #딥페이크 #앱스토어 #구글플레이 #TTP보고서 #디지털보안 #온라인안전 #AI윤리 #사이버범죄 #IT뉴스