X가 인공지능으로 제작된 무력 충돌 영상을 별도의 표기 없이 게시하는 제작자들을 수익 공유 프로그램에서 제외하기로 결정했습니다. 정보의 진실성이 무엇보다 중요한 전쟁 상황에서 가짜 뉴스가 퍼지는 것을 막으려는 조치입니다. 이번 정책 변화로 인해 많은 크리에이터가 활동과 수익 창출에 직접적인 제약을 받게 되었습니다.
AI 영상 미표기 시 적용되는 90일 정지 처분
X의 제품 책임자인 니키타 비어는 최근 인공지능 기술을 악용해 사람들을 오도하는 게시물을 올리는 사용자에 대해 강력한 제재를 예고했습니다. 가장 먼저 적용되는 조치는 수익 공유 프로그램에서의 일시적 퇴출입니다.
- 인공지능 생성 영상에 표기 누락 시 즉시 적용
- 크리에이터 수익 공유 프로그램에서 90일간 제외
- 해당 기간 광고 수익 정산 중단
이는 제작자가 자신의 영상이 인공지능으로 만들어졌음을 명확히 밝히지 않았을 때 내려지는 1차 경고 성격의 처벌입니다. 전쟁과 같은 민감한 사안에 대해 허위 정보를 유포하여 수익을 올리는 행위를 근절하겠다는 의지가 담겨 있습니다.
무력 충돌 상황에서 왜 정보의 진실성이 중요할까요?
전쟁이나 분쟁 중에는 현장의 정확한 정보가 사람들의 생명과 직결되는 경우가 많습니다. 비어는 전쟁 기간에는 지상의 실질적이고 정통성 있는 정보에 접근하는 것이 매우 중요하다고 강조했습니다.
현재의 인공지능 기술은 일반인이 보기에 실제 상황과 구별하기 힘든 영상을 너무나 쉽게 만들어냅니다. 이런 가짜 영상이 무분별하게 유포되면 대중은 극심한 혼란에 빠지게 되고 실제 구호 활동이나 군사적 판단에 부정적인 영향을 미칠 수 있습니다. X는 플랫폼 내에서 유통되는 정보의 신뢰도를 높이기 위해 이번 규정을 도입했습니다.
가짜 콘텐츠를 식별하는 X의 2가지 검증 방법
X는 단순히 신고에만 의존하지 않고 기술적인 도구와 집단지성을 동시에 활용하여 가짜 인공지능 영상을 걸러냅니다.
- 자체 생성 AI 탐지 도구 활용
- 생성형 콘텐츠 고유의 패턴 분석
- 영상 프레임 및 메타데이터 검사
- 커뮤니티 노트 시스템 가동
- 전 세계 사용자들이 참여하는 팩트 체크
- 다수의 검증을 거친 정보가 게시물 하단에 표시
이러한 다각적인 검증 체계는 교묘하게 제작된 영상이라도 결국에는 가짜임이 드러나도록 설계되었습니다. 기술적 탐지와 사용자들의 직접적인 감시가 결합되어 정책의 실효성을 높이고 있습니다.
수익 공유 프로그램에서 영구 퇴출되는 기준
일시적인 정지 처분을 받았음에도 불구하고 반복적으로 규정을 어기는 사용자에게는 더 무거운 처벌이 기다리고 있습니다. X는 정책을 지속적으로 위반하는 크리에이터를 수익 프로그램에서 영구히 배제할 방침입니다.
- 90일 정지 해제 후 다시 미표기 AI 영상 게시 시 적용
- 수익 공유 프로그램 영구 가입 제한
- 계정의 신뢰도 등급 하향 조정
한 번의 실수는 용납될 수 있지만 고의적이고 반복적인 기만행위는 플랫폼의 수익 모델에서 완전히 배제하겠다는 뜻입니다. 이는 자극적인 가짜 뉴스로 클릭을 유도해 돈을 버는 이른바 렉카형 계정들을 겨냥한 조치로 해석됩니다.
커뮤니티 노트는 어떻게 가짜 뉴스를 잡아내는가?
커뮤니티 노트는 X의 대표적인 자율 규제 모델로 이번 AI 영상 규제에서도 핵심적인 역할을 수행합니다. 특정 게시물이 사실과 다르거나 인공지능으로 만들어졌다는 의혹이 제기되면 전 세계 검증단이 증거를 수집합니다.
- 영상의 원본 출처 추적
- 과거에 사용된 다른 그래픽 소스와 비교
- 인공지능 특유의 오류 지점 식별
검증 결과가 신뢰할 만하다고 판단되면 게시물 아래에 경고 문구가 붙게 됩니다. 이 과정에서 인공지능 제작 여부가 확인되었음에도 제작자가 이를 숨겼다면 즉시 수익 정지 절차가 시작되는 구조입니다.
AI 기술의 명암과 플랫폼 기업의 책임
이번 정책은 긍정적인 면과 한계점을 동시에 지니고 있습니다. 무력 충돌이라는 특정 상황에 한정되어 있어 정치적 미성년자 선동이나 딥페이크를 이용한 제품 홍보 등에는 여전히 취약하다는 지적이 나옵니다.
수익 공유 프로그램이 창작자들에게 동기를 부여하는 것은 사실이지만 동시에 자극적인 콘텐츠를 양산하게 만든다는 비판도 적지 않았습니다. X의 이번 조치는 인공지능 시대에 플랫폼이 가져야 할 최소한의 윤리적 가이드라인을 제시했다는 점에서 의미가 있습니다. 앞으로 더 넓은 범위의 콘텐츠로 이러한 규제가 확대될 가능성도 열려 있습니다.
신뢰할 수 있는 디지털 생태계를 향한 마무리
인공지능은 창작의 도구가 될 수도 있지만 타인을 속이는 무기가 될 수도 있습니다. X가 도입한 이번 수익 정지 규정은 기술의 발전 속도에 맞춰 플랫폼이 책임감을 가져야 함을 시사합니다. 제작자들은 단순히 조회수를 올리는 것에 매몰되지 말고 자신이 배포하는 정보가 사회에 미칠 파급력을 먼저 생각해야 합니다. 투명한 정보 공개만이 크리에이터로서의 생명을 길게 이어가는 유일한 방법입니다.
이어서 보면 좋은 글
#AI #X수익창출 #가짜뉴스 #테크크런치 #무력충돌 #콘텐츠가이드라인 #일론머스크 #커뮤니티노트 #디지털윤리 #영상편집