틱톡의 소유권 변화 이후 대안으로 떠오른 UpScrolled가 사용자 급증과 함께 심각한 보안 결함과 콘텐츠 관리 부실이라는 암초를 만났습니다. 최근 한 달 사이 250만 명 이상의 사용자를 확보하며 무섭게 성장했지만 그 이면에는 인종 차별적 발언과 혐오 표현이 여과 없이 노출되는 심각한 상황이 벌어지고 있습니다.
UpScrolled의 폭발적인 성장과 직면한 위기
지난 2025년 설립된 UpScrolled는 모든 목소리에 동등한 힘을 부여한다는 슬로건을 내걸고 시장에 등장했습니다. 특히 최근 미국 내 틱톡 소유권 변화로 인해 갈 곳을 잃은 사용자들이 대거 유입되면서 지난 1월 한 달에만 250만 명이 넘는 신규 가입자를 기록했습니다. 하지만 이러한 양적 성장은 플랫폼의 관리 역량을 훌쩍 넘어섰고 현재는 혐오 표현의 온상이 되고 있다는 비판을 받고 있습니다. 서비스 초기부터 자유로운 의견 표명을 강조해 왔지만 그 자유가 타인에 대한 공격과 혐오로 변질되는 것을 막지 못하고 있는 모습입니다.
왜 UpScrolled는 혐오 표현 차단에 실패했을까?
급격한 성장은 소셜 네트워크 플랫폼에 있어 양날의 검과 같습니다. UpScrolled는 단기간에 수백만 명의 사용자를 받아들였지만 이를 모니터링할 인력과 기술적 인프라는 턱없이 부족했습니다. 플랫폼 내부 가이드라인에는 불법 활동이나 혐오 표현 그리고 괴롭힘을 금지한다고 명시되어 있지만 실제 운영 과정에서는 이러한 규칙이 거의 작동하지 않았습니다. 기술 매체들의 분석에 따르면 신고 시스템의 지연과 자동화된 필터링 도구의 부재가 복합적으로 작용하여 유해 콘텐츠가 장기간 방치되는 결과를 초래했습니다.
사용자 이름과 해시태그에 나타난 유해성 실태
가장 심각한 문제는 사용자 계정 생성 단계에서부터 발생하고 있습니다. 많은 사용자가 인종 차별적인 비속어나 나치 찬양 문구를 포함한 이름을 버젓이 사용하고 있지만 시스템은 이를 걸러내지 못했습니다. TechCrunch의 조사에 따르면 특정 인종을 비하하는 단어가 포함된 사용자 이름이 신고된 이후에도 수일 동안 삭제되지 않고 유지되었습니다. 또한 동영상이나 사진 콘텐츠에 달리는 해시태그 역시 혐오 표현으로 도배되는 경우가 허다하여 일반 사용자들이 심각한 불쾌감을 호소하고 있는 실정입니다.
ADL이 지적한 극단주의 콘텐츠의 심각성
반명예훼손연맹인 ADL은 최근 보고서를 통해 UpScrolled가 반유대주의와 극단주의 콘텐츠의 새로운 거점이 되고 있다고 경고했습니다. 보고서에 따르면 플랫폼 내부에서 하마스와 같은 국제 테러 조직을 옹호하거나 극단적인 인종주의를 선동하는 게시물이 급격히 늘어나고 있습니다. 이는 단순한 비속어 노출을 넘어 사회적 안전을 위협하는 수준에 이르렀다는 것이 전문가들의 공통된 의견입니다. 표현의 자유라는 명목 아래 테러 단체의 선전 도구로 전락할 위험이 커지고 있다는 점은 플랫폼의 존립 자체를 위협하는 요소입니다.
부적절한 게시물을 걸러내기 위한 기술적 대응 방법
문제가 커지자 UpScrolled 측은 뒤늦게 수습에 나섰습니다. 창업자인 Issam Hijazi는 최근 영상을 통해 유해 콘텐츠가 자사 가이드라인에 위배된다는 점을 인정하며 기술적 보완을 약속했습니다. 현재 플랫폼이 추진 중인 대응 방안은 다음과 같습니다.
- 콘텐츠 모니터링 팀의 대대적인 인력 확충
- 혐오 표현을 자동으로 감지하는 AI 기술 인프라 업그레이드
- 사용자 신고 시스템의 처리 속도 개선 및 피드백 강화
- 비속어가 포함된 계정 생성 제한 알고리즘 적용
창업자 Issam Hijazi가 밝힌 향후 시스템 개선 방향
창업자는 건강하고 존중받는 디지털 환경을 구축하는 것이 회사의 최우선 과제라고 강조했습니다. 단순히 인력을 늘리는 것에 그치지 않고 유해한 의도를 가진 사용자가 플랫폼을 악용하지 못하도록 기술적인 장벽을 높이겠다는 계획입니다. 특히 블루스카이와 같은 다른 신생 플랫폼들이 겪었던 시행착오를 본보기 삼아 더 강력한 자동화 필터링 시스템을 구축하겠다고 밝혔습니다. 하지만 이미 이탈하기 시작한 사용자들의 신뢰를 회복하기 위해서는 말보다 빠른 실행력이 필요한 시점입니다.
안전한 소셜 미디어 이용을 위해 우리가 할 수 있는 일
새로운 소셜 네트워크 서비스가 등장할 때마다 보안과 윤리 문제는 반복적으로 발생합니다. 사용자로서는 플랫폼의 기능적 편리함뿐만 아니라 그들이 사용자의 안전을 얼마나 책임감 있게 관리하는지 면밀히 살펴야 합니다. 부적절한 게시물을 발견했을 때는 적극적으로 신고 기능을 활용하고 개인 설정에서 유해 단어 필터링 기능을 강화하는 것이 좋습니다. 기술적인 해결책이 완성되기 전까지는 사용자 스스로가 커뮤니티의 정화 작용에 참여하는 태도가 무엇보다 중요합니다.
마치며
UpScrolled가 진정한 틱톡의 대안으로 자리 잡기 위해서는 지금의 성장세보다 안전한 운영 역량을 증명하는 것이 시급해 보입니다. 혐오 표현이 가득한 플랫폼은 결국 대중의 외면을 받을 수밖에 없기 때문입니다. 앞으로 이들이 약속한 기술적 인프라 개선이 얼마나 실효성 있게 진행될지 그리고 이를 통해 다시금 청정한 소셜 네트워크 환경을 구축할 수 있을지 지켜봐야겠습니다.
출처: https://techcrunch.com/2026/02/11/upscrolleds-social-network-is-struggling-to-moderate-hate-speech-after-fast-growth/
이어서 보면 좋은 글
#UpScrolled #소셜네트워크 #혐오표현 #온라인안전 #IT뉴스 #디지털리터러시 #콘텐츠모니터링 #테크뉴스 #플랫폼규제 #소셜미디어이슈