2025년, 틱톡(TikTok)에서 인공지능(AI)이 만들어낸 콘텐츠가 상상을 초월하는 속도로 확산되며 우리의 피드를 점령하고 있어요. 이 틱톡 AI 콘텐츠는 단순히 재미있는 영상을 넘어, 때로는 위험한 방식으로 다가올 수 있다는 사실, 알고 계셨나요? 수십억 조회수를 기록하며 급증하는 AI 생성 콘텐츠의 실태와 그 안에 숨겨진 진짜 위험 요소들을 함께 살펴봐요.
틱톡 알고리즘을 조작하는 AI 생성 콘텐츠의 비밀
최근 연구에 따르면 틱톡에서는 수백 개의 AI 관련 계정들이 한 달 동안 무려 45억 회의 조회수를 기록하며 인공지능이 생성한 콘텐츠를 쏟아내고 있답니다. 이 계정들은 틱톡의 알고리즘을 영리하게 이용해 콘텐츠를 바이럴 시키고 있어요. 예를 들어, 어떤 계정은 하루에 최대 70개의 게시물을 올리거나 같은 시간에 집중적으로 업로드하며 자동화된 시스템임을 암시하기도 해요. 이처럼 폭발적으로 증가하는 AI 생성 콘텐츠는 우리의 피드를 의도적으로 채우면서 어떤 내용이 진짜이고 가짜인지 구분하기 어렵게 만들 수 있답니다. 이러한 현상은 소셜 미디어의 정보 환경을 근본적으로 변화시키고 있으며, 플랫폼 사용자들이 접하는 정보의 신뢰성에 큰 영향을 미 미치고 있어요.
충격적인 진실: 성적 대상화와 반이민 콘텐츠의 확산
AI 생성 콘텐츠의 확산은 단순히 양적인 문제만을 야기하는 것이 아니에요. 파리 기반 비영리 단체인 AI 포렌식스(AI Forensics)의 보고서에 따르면, 이 중 일부 콘텐츠는 심각한 사회적 문제를 일으킬 수 있는 내용을 담고 있다고 해요. 특히 여성의 신체를 성적으로 대상화하거나 반이민적 서사를 담은 가짜 뉴스 형태의 콘텐츠가 수십억 조회수를 기록하며 퍼지고 있어 우려가 커지고 있어요. 일부 계정은 미성년자로 보이는 소녀들을 성적으로 묘사하는 콘텐츠까지 올리는 등, 틱톡의 서비스 약관을 위반하는 내용이 많았답니다. 이러한 콘텐츠는 사회에 부정적인 영향을 미칠 뿐만 아니라, 특히 취약계층에게 큰 피해를 줄 수 있어요.
‘진짜’와 ‘가짜’의 경계, AI 콘텐츠 라벨링의 실패
AI 생성 콘텐츠의 또 다른 심각한 문제점은 바로 ‘라벨링’의 부재예요. AI 포렌식스에 따르면, 연구 대상 계정들이 게시한 콘텐츠 중 절반 가까이가 AI 생성물이라는 표시를 하지 않았고, 틱톡 자체 라벨이 붙은 콘텐츠는 2% 미만이었다고 해요. 이는 사용자들이 어떤 콘텐츠가 AI에 의해 만들어졌는지 알기 어렵게 만들어, 해당 콘텐츠의 기만적인 잠재력을 더욱 높인답니다.
심지어 일부 계정은 몇 달 동안 틱톡의 검열을 피해 유해 콘텐츠를 계속 게시하기도 했어요. 스카이 뉴스(Sky News)나 ABC와 같은 잘 알려진 방송사의 로고를 사용해 가짜 뉴스처럼 보이게 하는 경우도 있었고요. 이는 AI 생성 콘텐츠가 진실과 거짓의 경계를 모호하게 만들면서, 사용자들이 잘못된 정보를 진짜처럼 믿게 할 위험이 크다는 것을 보여줘요.
피드를 채우는 의미 없는 영상, ‘AI 슬롭(Slop)’이란?
AI 생성 콘텐츠 중에는 ‘슬롭(slop)’이라고 불리는 유형도 있답니다. 이는 무의미하고 기괴하며, 사람들의 소셜 미디어 피드를 채우기 위해 만들어진 AI 콘텐츠를 일컫는 말이에요. 예를 들어, 올림픽 다이빙 대회에 참가하는 동물이나 말을 하는 아기 영상 등이 여기에 해당하죠. 연구자들은 일부 슬롭 콘텐츠가 ‘재미있고 귀엽다’고 인정했지만, 이러한 콘텐츠가 대량으로 유포되면 소셜 미디어 피드가 불필요한 정보로 넘쳐나 사용자들이 중요한 정보를 놓치게 만들 수 있어요. 이는 틱톡 사용 경험의 질을 저하시키는 요인이 될 수 있답니다.
틱톡의 노력과 남겨진 숙제: AI 콘텐츠 관리의 미래
틱톡은 AI 생성 콘텐츠(AIGC)를 제거하고 수억 개의 봇 계정 생성을 차단하며, 업계 최고 수준의 AI 라벨링 기술에 투자하고 있다고 밝혔어요. 또한, 사용자들이 플랫폼에서 AI 콘텐츠를 경험하는 방식을 제어할 수 있는 도구와 교육을 제공하고 있다고 강조했죠. 하지만 AI 포렌식스 연구팀은 틱톡의 이러한 노력에도 불구하고, 콘텐츠 식별 실패율이 여전히 높아 회의적인 입장을 보이고 있답니다. 연구팀은 틱톡이 AI 생성 콘텐츠를 인간이 만든 게시물과 분리하거나, 체계적이고 가시적인 라벨링을 의무화하는 시스템을 구축해야 한다고 제안했어요. 이는 플랫폼이 단순한 라벨링을 넘어 더욱 적극적인 관리가 필요하다는 것을 시사해요.
현명한 사용자 되기: 2025년 틱톡 AI 콘텐츠를 대하는 자세
틱톡 AI 콘텐츠의 급증은 단순한 기술적 현상을 넘어, 사회적 책임과 사용자 인식의 중요성을 다시 한번 일깨워주고 있어요. 앞으로도 생성형 AI 기술은 더욱 발전하겠지만, 우리 스스로가 비판적인 시각으로 콘텐츠를 바라보고 현명하게 선택하는 것이 무엇보다 중요하답니다. 특히 정보의 출처를 확인하고, 너무 자극적이거나 믿기 어려운 내용은 한 번 더 의심해 보는 습관을 들이는 것이 필요해요. 여러분은 틱톡에서 AI 콘텐츠를 접할 때 어떤 점을 가장 중요하게 생각하시나요? 댓글로 의견을 나눠봐요!
함께 보면 좋은 글
#틱톡 #AI콘텐츠 #생성형AI #소셜미디어 #가짜뉴스 #AI오남용 #콘텐츠확산 #알고리즘조작 #디지털리터러시 #정보과부하 #유해콘텐츠 #온라인안전 #미디어비판 #AI기술 #플랫폼규제 #AI포렌식스 #슬롭콘텐츠 #미디어윤리 #2025년트렌드 #인터넷문화 #사용자인식 #디지털위험 #가짜정보 #사회적책임 #기술과사회