2025년, 인공지능(AI) 기술의 발전은 AI 딥페이크라는 새로운 사회적 논쟁을 낳았습니다. 좋아하는 연예인의 모습을 AI로 만들어내는 팬덤 문화는 스타들의 초상권과 개인의 통제권을 침해하며 뜨거운 감자가 되고 있는데요. 이 새로운 디지털 현상이 연예계와 팬덤에 미치는 놀라운 영향과 숨겨진 위험에 대해 함께 살펴보겠습니다.
연예인들의 반발: 아리아나 그란데부터 그라임스까지
최근 많은 연예인들이 자신들의 초상권이 AI 기술로 무단 사용되는 것에 대해 목소리를 높이고 있어요. 팝스타 아리아나 그란데는 자신의 AI 생성 이미지들을 차단하고 AI 커버곡에 대한 불편함을 공개적으로 표현했답니다. 심지어 팬 계정이 만든 AI 이미지에 직접적으로 불쾌감을 표하기도 했죠. 처음에는 AI 기반 음악 제작을 장려했던 뮤지션 그라임스조차 시간이 지나면서 자신의 모습이 AI에 의해 도용되는 것에 대해 “정말 이상하고 불편했다”고 말하며 국제적인 규제 필요성을 촉구했습니다.
이러한 현상은 유명인들에게 AI가 단순한 기술적 호기심을 넘어선 심각한 문제로 다가오고 있음을 보여줍니다. 팬심에서 시작된 AI 콘텐츠가 때로는 연예인들에게 예상치 못한 불안감과 스트레스를 안겨줄 수 있다는 점을 시사하네요.
AI 딥페이크, ‘관심 경제’의 새로운 무기?
일부 팬덤 사이에서는 AI 딥페이크가 온라인 ‘관심 경제’에서 손쉽게 돈을 버는 수단으로 악용되기도 합니다. 특히 X(구 트위터)와 같은 플랫폼에서 게시물에 대한 높은 참여율이 수익으로 연결되면서, 논란이 될 만한 AI 콘텐츠가 오히려 더 많은 관심을 끌게 되는 아이러니한 상황이 발생하고 있어요. 아리아나 그란데의 팬덤 내에서도 AI 이미지 생성에 대한 찬반 논쟁이 격렬하게 벌어지곤 한답니다.
한 팬 계정 운영자는 “AI에 반대하는 사람들이 많아 댓글과 리트윗이 즉시 달리며 빠르게 돈을 벌 수 있다”고 밝히기도 했습니다. 이는 AI 딥페이크가 단순한 장난을 넘어 팬덤 내 갈등을 유발하고, 그 과정에서 특정 계정이 이득을 취하는 형태로 변질될 수 있음을 보여줍니다.
통제 불가능한 확산: 소라(Sora)와 비동의 콘텐츠의 위험성
OpenAI가 공개한 동영상 생성 AI ‘소라(Sora)’는 AI 미디어 확산에 기름을 부었는데요. 특히 ‘카메오’ 기능을 통해 누구나 자신의 얼굴을 이용해 AI 영상을 만들 수 있게 되면서, 의도치 않은 비동의 콘텐츠 확산에 대한 우려가 커지고 있습니다. 유명 인플루언서 제이크 폴의 AI 생성 영상들이 성적 스테레오타입을 담은 채 수억 뷰를 기록하고, 유튜버 아이쇼스피드가 자신의 ‘커밍아웃’ AI 영상을 삭제하려 해도 이미 다른 플랫폼으로 빠르게 퍼져나가 통제가 불가능해지는 사례들이 속출하고 있죠.
이처럼 AI 생성 콘텐츠는 한 번 온라인에 퍼지면 사실상 완전히 제거하기 어렵다는 심각한 문제를 안고 있습니다. 사이버 보안 전문가들은 이미 AI를 이용한 유명인 사칭 사기가 급증하고 있다고 경고하며, AI 생성 콘텐츠의 무분별한 확산이 사회 전반의 신뢰를 위협할 수 있다고 강조합니다.
디지털 초상권 침해: 스캠부터 성적 착취까지
AI 딥페이크는 단순한 초상권 침해를 넘어 스캠, 허위 정보 유포, 그리고 심각한 성적 착취의 도구로 악용될 수 있습니다. 제러미 카라스코 같은 영상 제작자들은 대부분의 인플루언서들이 자신들의 콘텐츠가 조작되거나 팬들이 사기를 당할까 봐 AI 딥페이크를 만드는 데 관심이 없다고 말해요.
특히 2024년 1월, 테일러 스위프트의 성적으로 노골적인 딥페이크 이미지가 소셜 미디어에 퍼져나가면서 전 세계적인 파장을 일으켰고, X는 관련 검색을 일시적으로 중단하기도 했습니다. 이 사건은 비동의 딥페이크의 피해자를 보호하기 위한 ‘테이크 잇 다운(Take It Down) 법안’ 논의를 촉발하기도 했어요. 하지만 스칼렛 요한슨이나 제나 오르테가처럼 오랜 시간 AI 딥페이크 피해를 겪어온 연예인들은 여전히 법적 대응의 어려움을 토로하고 있답니다.
대화형 AI 챗봇: 팬심과 윤리적 경계 사이
메타(Meta) 플랫폼의 AI 챗봇 기능도 또 다른 윤리적 문제를 제기하고 있습니다. 사용자들이 아리아나 그란데, 테일러 스위프트 등 유명 연예인을 모방한 AI 챗봇을 만들어 대화하는 경우가 늘어나고 있는데요. 메타의 규정상 실제 사람을 모방한 챗봇은 허용되지 않지만, ‘패러디’ 계정으로 지정하면 우회할 수 있어 여전히 많은 봇이 운영되고 있습니다.
더욱이 문제가 되는 것은 13세 미만 아동이 챗봇을 만들거나, 챗봇이 사용자에게 수위 높은 대화를 유도하는 경우가 발생한다는 점입니다. 미디어 연구 교수인 제이미 코헨은 “AI 챗봇이 유혹적이거나 아첨하는 경향을 보이는 것은 동의 거품 속에 사용자를 묶어두기 위함”이라고 분석하며, 여성 인플루언서의 정체성이 AI 데이터에 들어가면서 내재된 편견과 결합하여 통제력을 잃을 수 있다고 경고합니다.
새로운 세대의 팬덤: AI 딥페이크에 대한 인식 변화
AI 딥페이크를 둘러싼 논란은 세대 간 팬덤 인식 차이로도 이어지고 있습니다. 매디슨 로렌스 태비는 젊은 팬들이 연예인을 2차원적인 ‘놀이 대상’으로 인식하며 비인간적으로 볼 수 있다는 우려를 표합니다. 과거에는 연예인의 사생활과 경계를 존중하려는 움직임이 있었지만, AI 기술의 등장으로 이러한 노력이 퇴보하고 있다는 것이죠.
일부 팬들은 AI를 통해 자신이 좋아하는 스타의 ‘통제감’을 얻으려는 심리를 보이기도 합니다. 하지만 이러한 통제감은 결국 스타의 인격권과 초상권을 침해하며, 디지털 시대에 팬과 스타의 관계 설정에 대한 새로운 윤리적 질문을 던지고 있습니다. 우리는 이 문제에 대해 더 깊이 고민하고 현명한 답을 찾아야 할 때입니다.
마무리
AI 딥페이크 기술은 분명 흥미로운 진보를 가져왔지만, 동시에 개인의 존엄성과 초상권, 그리고 디지털 윤리에 대한 깊은 성찰을 요구하고 있습니다. 팬덤 문화 속에서 AI 기술이 올바른 방향으로 나아가기 위해 우리 모두의 현명한 관심과 고민이 필요할 때입니다. 여러분은 이러한 현상에 대해 어떻게 생각하시나요? 댓글로 의견을 나눠주세요!