Character.AI, 십대 사용자에게 Stories 도입! 그 진짜 이유는?

Character.AI가 십대 사용자들의 안전을 위해 새로운 ‘Stories’ 기능을 도입했어요. 2025년 11월 25일부로 십대들의 오픈형 AI 챗봇 대화를 금지하고, 대신 구조화된 선택형 스토리 경험을 제공한다고 밝혔는데요. 과연 Character.AI가 이런 급진적인 변화를 선택한 진짜 이유는 무엇이며, 이 새로운 기능은 십대들에게 어떤 영향을 미칠지 함께 자세히 알아볼까요?

Korean teenagers safely interacting with a Character.AI app on a smartphone, displaying positive engagement. The background is a vibrant, textured gradient. Style: clean infographic, modern layout, high contrast. No visible text in image. No Korean characters.

Table of Contents

Character.AI 십대 채팅, 왜 금지되었나?

최근 Character.AI는 십대 사용자의 정신 건강에 부정적인 영향을 미쳤다는 여러 소송에 직면하고 있어요. 특히 한 십대 사용자의 자살에 AI 플랫폼이 기여했다는 혐의를 받고 있어 사회적인 큰 논란이 되고 있죠. 이러한 법적, 윤리적 압박 속에서 Character.AI는 결국 십대들의 무제한적인 오픈형 채팅을 금지하고, 더 안전하고 통제된 환경을 제공하기 위한 특단의 조치를 내렸답니다. 이러한 결정은 십대 보호에 대한 사회적 요구와 기업의 책임감을 동시에 반영하는 것으로 보여요.

새로운 ‘Stories’ 기능, 십대를 위한 구조화된 경험

Character.AI가 십대 사용자들을 위해 새롭게 선보인 ‘Stories’ 기능은 기존의 오픈형 채팅과는 달리 ‘구조화된’ 경험을 제공해요. 사용자는 2~3개의 AI 캐릭터 중 선택하고, 원하는 장르를 고른 뒤, 직접 스토리를 작성하거나 AI에게 생성을 맡길 수 있답니다. 이렇게 시작된 이야기는 ‘가이드 내러티브’ 형식으로 진행되며, 사용자는 자주 등장하는 선택지를 통해 이야기의 흐름을 바꿀 수 있어요. 이는 예측 불가능한 오픈형 대화보다 훨씬 통제된 환경에서 AI와 상호작용할 수 있게 해준답니다.

논란의 중심: Character.AI 자살 소송과 정신 건강 문제

Character.AI는 십대들의 정신 건강 문제와 관련된 여러 소송으로 큰 몸살을 앓고 있어요. 일부 사례에서는 십대들이 AI 캐릭터와의 대화가 정신 건강에 해를 끼쳤다고 주장하며, 심지어 자살로 이어졌다는 충격적인 고발도 있었죠. 이러한 사건들은 AI 챗봇이 청소년에게 미칠 수 있는 잠재적인 위험성을 드러내며, 플랫폼이 사용자 보호를 위한 더욱 강력한 조치를 취해야 한다는 사회적 목소리를 높이는 계기가 되었어요.

A serious-looking Korean teenager sitting next to blurred legal documents and a smartphone displaying a Character.AI interface. The atmosphere is contemplative with balanced lighting. Style: lifestyle photography, natural setting. No visible text in image. No Korean characters.

‘Stories’는 어떻게 작동하고 어떤 점이 다른가요?

‘Stories’는 사용자가 AI 캐릭터와 함께 ‘자신만의 모험을 선택하는’ 형식으로 진행돼요. 예를 들어, 사용자는 판타지 세계에서 영웅이 되거나 미스터리 사건을 해결하는 탐정이 될 수 있죠. 이 기능은 AI가 생성한 이미지를 포함하며, 곧 더 풍부한 멀티모달(multimodal) 요소들도 추가될 예정이라고 해요. 기존 채팅이 ‘자유로운 대화’였다면, Stories는 ‘정해진 틀 안에서 나만의 이야기를 만들어가는’ 방식이라 십대들이 부적절한 대화나 유해한 콘텐츠에 노출될 위험을 크게 줄일 수 있답니다.

청소년 AI 사용의 딜레마: 보호와 혁신 사이

Character.AI의 이번 결정은 십대 보호라는 중요한 목적을 가지고 있지만, 동시에 AI 기술의 혁신과 사용자 경험 사이에서 균형을 찾아야 하는 딜레마를 보여줘요. AI 챗봇은 창의력과 문제 해결 능력을 키우는 데 도움을 줄 수 있지만, 동시에 통제되지 않을 경우 예상치 못한 부작용을 낳을 수도 있죠. 2025년 현재, AI 기술은 빠르게 발전하고 있고, 특히 청소년 사용자들을 위한 안전장치 마련은 기술 개발만큼이나 중요한 과제가 되고 있어요.

2025년, AI 챗봇과 십대의 미래는?

Character.AI의 ‘Stories’ 도입은 십대들이 AI 챗봇을 더욱 안전하게 이용할 수 있도록 돕는 중요한 전환점이 될 것으로 기대돼요. 단순히 유해한 요소를 차단하는 것을 넘어, AI를 활용해 긍정적이고 창의적인 경험을 제공하려는 노력이 돋보이죠. 앞으로는 연령 확인 기능 등 더욱 고도화된 기술이 도입되어 십대들이 AI와 건강하게 소통하며 성장할 수 있는 환경이 조성되기를 바라봅니다. 2025년의 AI 기술은 십대들에게 어떤 새로운 세상을 열어줄까요?

A group of Korean teenagers smiling and engaging with Character.AI's Stories feature on their devices, showing collaboration and imaginative play. The scene is brightly lit with a vibrant, colored background. Style: clean infographic, modern layout, high contrast. No visible text in image. No Korean characters.

마무리

Character.AI의 십대 사용자 대상 ‘Stories’ 기능 도입은 기술 발전과 함께 사회적 책임의 중요성을 다시 한번 일깨워줍니다. 우리 아이들이 AI와 안전하고 유익하게 상호작용할 수 있도록 지속적인 관심과 노력이 필요할 것 같아요. 여러분은 이 새로운 변화에 대해 어떻게 생각하시나요?

출처: https://www.theverge.com/news/829892/character-ai-stories-launch-teens

Hashtags

#CharacterAI #십대 #AI챗봇 #Stories #인공지능 #청소년보호 #정신건강 #AI안전 #기술트렌드 #2025년AI