최근 엑스(X)의 인공지능 그록이 생성한 부적절한 이미지들로 인해 Grok CSAM 논란이 뜨겁게 달아오르고 있습니다. 과거 아동 성착취물에 대해 엄격한 잣대를 들이대던 결제 대행사들이 유독 일론 머스크의 서비스에는 관대한 태도를 보여 비판의 목소리가 커지는 상황인데요. 왜 이토록 위험한 이미지들이 무분별하게 생성되고 있으며 금융권의 이중잣대 이면에 숨겨진 진실은 무엇인지 구체적인 내용을 살펴보려고 합니다.
Grok CSAM 논란 11일 만에 2만 장 넘게 생성된 배경
디지털 증오 대응 센터(CCDH)의 조사 결과에 따르면 작년 말부터 올해 초까지 단 11일 동안 그록이 생성한 이미지 중 약 23,000개가 아동과 관련된 성적인 이미지로 추정되었습니다. 이는 평균 41초마다 한 장씩 부적절한 결과물이 만들어진 셈이라 충격을 주고 있는데요.
- 샘플 조사 결과 2만 개의 이미지 중 101개에서 문제 소지 발견
- 유료 구독자뿐만 아니라 무료 사용자도 접근 가능한 보안 허점
- 일론 머스크의 규제 완화 방침이 필터링 기능을 약화시킨 결과
이처럼 방대한 양의 데이터가 쏟아져 나오면서 단순한 기술적 오류를 넘어 플랫폼 운영 자체에 심각한 결함이 있다는 지적이 나오고 있습니다. 일론 머스크는 새로운 보호 장치를 도입했다고 주장했으나 실제 테스트에서는 여전히 유명인이나 일반인을 대상으로 한 딥페이크 이미지가 생성되는 것으로 나타났습니다.
딥페이크 규제에도 그록 이미지 생성이 멈추지 않는 이유
그록의 이미지 생성 기능은 엑스의 수익 구조와 밀접하게 연결되어 있습니다. 이미지 편집 기능을 유료 구독자에게 한정적으로 제공하면서 사실상 부적절한 콘텐츠 생성이 수익 창출의 도구로 활용된다는 비판을 피하기 어려워 보이더라고요.
- 높은 사용자 참여도를 유도하기 위한 의도적인 방치 가능성
- 규칙 기반의 금칙어 설정을 교묘하게 피해가는 사용자들의 우회 기법
- 딥페이크 포르노에 대한 내부 모니터링 인력의 부족
실제로 엑스의 제품 책임자는 최근 며칠간의 사용자 참여도가 역대 최고치를 기록했다고 밝히기도 했습니다. 이는 자극적인 콘텐츠가 플랫폼의 활성도를 높이는 데 기여하고 있다는 방증이기도 해서 씁쓸함을 더하고 있습니다.
과거와 달라진 결제 처리 기업들의 이중적인 태도
가장 의아한 부분은 마스터카드, 비자, 스트라이프 같은 결제 대행사들의 반응입니다. 이들은 과거 성인용 플랫폼이나 특정 사이트에 아동 성착취물이나 부적절한 콘텐츠가 올라왔을 때 즉각적으로 결제를 차단하며 강경하게 대응해 왔던 전례가 있습니다.
- 2020년 폰허브의 아동 성착취물 논란 당시 즉각적인 결제 중단
- 2025년 AI 명시적 콘텐츠를 허용한 시비타이(Civitai) 서비스 차단
- 온리팬스 등 성인 콘텐츠 플랫폼에 가해졌던 강력한 금융 제재
하지만 이번 Grok CSAM 논란에 대해서는 주요 결제사들이 침묵으로 일관하고 있습니다. 스트라이프나 애플, 구글 앱스토어를 통해 여전히 엑스의 구독 결제가 이루어지고 있는데 이는 플랫폼의 규모와 운영자의 영향력에 따라 기준이 달라지는 것 아니냐는 의구심을 자아내기에 충분해 보입니다.
금융권이 일론 머스크의 엑스(X)를 제재하지 못하는 법적 한계
금융 전문가들은 결제사들이 몸을 사리는 이유로 일론 머스크의 막강한 자금력과 소송 가능성을 꼽고 있습니다. 그는 과거 자신에게 불리한 보고서를 낸 단체를 고소하는 등 공격적인 법적 대응을 이어온 인물이기 때문입니다.
- 세계 최고의 부호이자 정부와 밀접한 관계를 맺고 있는 정치적 영향력
- 결제 차단 시 발생할 수 있는 대규모 손해배상 청구 소송에 대한 부담
- 우익 지지층을 의식한 정치적 검열 논란으로 확산될 가능성
결제사 입장에서는 평판 위험보다 머스크와의 법적 분쟁에서 입게 될 실질적인 타격이 더 크다고 판단했을 가능성이 높습니다. 이로 인해 보편적인 윤리 기준보다 기업의 이해관계가 우선시되는 현상이 나타나고 있는 것이지요.
Grok CSAM 논란 해결을 위한 각국의 사법적 대응 절차
금융권이 자율 규제에 실패하면서 결국 공은 사법 당국으로 넘어갔습니다. 현재 미국 내 여러 주에서는 AI가 생성한 부적절한 콘텐츠를 범죄로 규정하고 강력한 수사에 착수한 상태입니다.
- 캘리포니아주 검찰총장의 그록 이미지 생성 관련 정식 조사 착수
- 연방 차원의 테이크 잇 다운 법안(Take It Down Act)을 통한 형사 처벌 근거 마련
- 딥페이크 포르노 제작 및 유포에 대한 주별 개별법 제정 가속화
만약 결제사들이 범죄 수익임을 인지하고도 자금을 송금했다는 사실이 밝혀진다면 자금 세탁 방지법 위반으로 심각한 법적 책임을 질 수도 있습니다. 이는 단순히 기업 이미지 실추를 넘어 운영 허가 취소까지 이어질 수 있는 중대한 사안입니다.
사용자가 부적절한 AI 생성 콘텐츠를 식별하고 신고하는 방법
기술의 발전 속도를 법과 제도가 따라가지 못하는 상황에서는 사용자들의 적극적인 감시와 신고가 무엇보다 중요합니다. 부적절한 이미지를 발견했을 때 대처할 수 있는 몇 가지 실질적인 방법을 정리해 보았습니다.
- 플랫폼 내 신고 기능을 활용하여 콘텐츠의 유해성을 명시적으로 알리기
- 실존 인물을 대상으로 한 딥페이크의 경우 관련 법률 자문 기관에 도움 요청
- 아동 관련 음란물의 경우 전문 신고 기관(NCMEC 등)에 즉시 제보
사용자들이 목소리를 높일 때 플랫폼 운영사와 금융사들도 비로소 무거운 책임감을 느끼게 될 것입니다. 기술은 인간의 편의를 위해 존재해야 하지 누군가의 권리를 침해하거나 범죄에 이용되어서는 안 되기 때문입니다.
마무리
지금까지 Grok CSAM 논란과 이를 둘러싼 금융권의 복잡한 속사정을 짚어보았습니다. 기술의 자유와 윤리적 책임 사이의 균형을 잡는 일은 결코 쉽지 않지만 아동 보호라는 보편적 가치는 그 어떤 비즈니스 논리보다 우선되어야 합니다. 일론 머스크와 엑스 그리고 침묵하는 결제사들이 사회적 책임을 다할 수 있도록 우리 모두가 지속적인 관심을 가지고 지켜봐야 할 때입니다.
출처: https://www.theverge.com/ai-artificial-intelligence/867874/stripe-visa-mastercard-amex-csam-grok
이어서 보면 좋은 글
#GrokCSAM논란 #일론머스크 #인공지능윤리 #엑스 #딥페이크규제 #결제대행사 #금융보안 #디지털인권 #AI이미지생성 #사이버범죄예방