매일 쏟아지는 AI 콘텐츠 속에서 진짜와 가짜를 구별하는 일은 점점 더 어려워지고 있습니다. 소셜 미디어 피드가 온통 AI 생성 콘텐츠로 뒤덮이는 지금, 우리는 의도치 않게 ‘AI 탐정’이 되어 매 순간 진실을 판별해야 하는 피로감에 시달리고 있죠. 현실과 가상 세계의 경계가 흐릿해지는 이 혼란스러운 상황, 과연 어떻게 헤쳐나가야 할까요?
원치 않는 ‘AI 탐정’의 삶, 왜 시작되었을까요?
최근 친구가 보내준 ‘오이 피클 복장 남자의 고속도로 추격전’ 영상은 황당했지만 재미있었습니다. 그런데 그 영상이 AI로 만들어졌다는 것을 알려주자 친구는 깜짝 놀랐습니다. 평소 AI 콘텐츠 판별에 꽤 능숙하다고 생각했는데, 이번에는 속았다는 것에 좌절하며 “AI 쓰레기를 계속 경계해야 하는 게 정말 싫다”고 하소연했습니다. 이처럼 우리는 원치 않게 ‘AI 탐정’이 되어 매일 진실을 찾아 헤매는 신세가 되고 있습니다. AI 콘텐츠가 걷잡을 수 없이 퍼져나가면서, 우리는 끊임없이 현실과 가상의 경계를 확인해야 하는 피로감에 시달리고 있는 거죠.
점점 교묘해지는 AI 생성 콘텐츠, 알아차리기 어려운 이유
스스로는 기술에 능숙하다고 믿었기에 AI 생성 콘텐츠를 쉽게 구별할 수 있을 거라 생각했습니다. 하지만 이제는 상황이 달라졌어요. 수많은 AI 동영상 생성 모델이 훨씬 정교해져서, 이전처럼 명확한 ‘빨간 깃발’이 보이지 않는 경우가 많아졌기 때문입니다. 소셜 미디어 플랫폼은 다음 영상으로 빠르게 넘어가도록 설계되어 있습니다. 짧은 시간 안에 진위 여부를 파악하는 것은 거의 불가능에 가까워졌죠. 알고리즘에 따라 무작위로 추천되는 피드를 소비하는 것은 마치 끔찍한 AI 콘텐츠 늪에 빠져 허우적거리는 것과 같습니다. 현실의 단편을 발견하더라도, 그것은 당신을 더 오래 스크롤하게 만드는 미끼일 뿐입니다.
AI 싫어해도 소용없는 알고리즘의 덫: 역설적인 현실
여기에는 정말 기막힌 역설이 숨어 있습니다. AI 콘텐츠가 진짜인지 아닌지 분간하려고 영상에 오래 머무르면 머무를수록, 알고리즘은 당신에게 더 많은 AI 생성 콘텐츠를 보여주게 됩니다. 혹시 몇 번이나 영상을 돌려보며 ‘AI 신체 왜곡’ 같은 고전적인 징후를 찾고 계신가요? 아니면 너무 짜증 나서 댓글이라도 남기셨나요? “이런 건 정말 싫다!”라며 친구에게 공유했나요? 이 모든 행동은 알고리즘에게 “더! 더! 더!”를 외치는 신호로 작용합니다. 결국 AI 생성 콘텐츠를 싫어하는 행위조차 그것을 더 확산시키는 연료가 되는 끔찍한 악순환에 갇히게 되는 셈입니다.
돈벌이 수단으로 전락한 ‘가짜 AI’의 불편한 진실
어떤 이들은 정치인을 사칭한 딥페이크나 동의 없는 성적 콘텐츠를 만들기도 합니다. 이런 행위는 분명히 나쁘고 불법적이죠. 하지만 그 동기는 정치적 의도나 성차별처럼 비교적 명확하게 드러납니다. 그런데 아무 의미 없는 AI 영상은 왜 만드는 걸까요? 예를 들어, ‘오이 피클 남자의 자동차 추격전’ 같은 콘텐츠 말이죠. 답은 간단합니다. 돈을 벌 수 있기 때문입니다. 바이럴을 목적으로 만들어지는 어이없고 유치한 AI 콘텐츠는 자본주의의 말기적 부조리를 적나라하게 보여줍니다. 소셜 미디어에서 성공하려면 현실 그 자체가 방해가 되는 시대가 온 거죠.
알고리즘만을 위한 콘텐츠, 인간은 뒷전
저널리스트 제이슨 코블러는 이런 콘텐츠가 사실 인간을 위한 것이 아니라 알고리즘을 위한 것이라고 주장합니다. AI 콘텐츠의 질이나 정치적 메시지, 혹은 현실과의 일치 여부는 중요하지 않습니다. 중요한 것은 엄청난 양의 콘텐츠를 빠르게 생성하고, 플랫폼을 스팸처럼 도배한 다음, 무엇이 ‘좋아요’를 많이 받는지 찾아내 계속해서 반복하는 것입니다. 이렇게 돈을 벌 수 있다면 어떤 콘텐츠든 만들어내는 것이죠.
플랫폼은 왜 AI 콘텐츠 홍수를 막지 않을까요?
이 모든 상황은 세계에서 가장 강력한 IT 기업들과 억만장자 리더들이 생성형 AI의 대중화가 사업에 이롭다고 판단했기 때문에 벌어지는 일입니다. 플랫폼들은 AI 스팸의 확산을 막으려 하지 않습니다. 오히려 이를 적극적으로 수용하고, 장려하며, 심지어 이를 위한 도구까지 만들어 제공하고 있습니다. 사람들이 AI를 어떻게 사용하든, 어떤 목적으로 사용하든 상관하지 않습니다. 사람들이 AI 콘텐츠를 좋아하든 말든 관계없습니다. 플랫폼이 이득을 보기 때문에, 이런 흐름은 쉽게 멈추지 않을 것입니다.
AI 콘텐츠 시대, 우리가 현실을 지키는 방법
어쩌면 현실에 매달리려는 제 바람이 너무 고집스러운지도 모릅니다. 아니면 그런 것이 가능하다고 스스로를 속이고 있는 걸까요? 하지만 여전히 제가 보고 있는 것이 현실인지 아닌지는 제게 중요합니다. 그리고 아마 당신에게도 마찬가지일 것입니다. 그러니 당분간은 마지못해 돋보기와 디지털 디어스토커 모자를 움켜쥐고 AI 콘텐츠 속에서 현실을 판별하려는 노력을 계속해야 할 것입니다. 이 지루하고 피곤한 싸움 속에서, 우리는 어떻게 현실을 지켜낼 수 있을까요?