Character.AI가 청소년 AI 챗봇 이용을 전면 제한하며 인공지능 엔터테인먼트 플랫폼의 큰 변화를 예고했습니다. 2025년 11월 25일부터 시행될 이번 정책은 청소년 안전을 최우선으로 고려한 결과입니다. AI 챗봇이 야기할 수 있는 위험성에 대한 사회적 우려가 커지는 가운데, Character.AI의 이번 결정은 업계에 중요한 표준을 제시할 것으로 보입니다. 과연 어떤 변화들이 기다리고 있을까요?
Character.AI의 충격 발표: 청소년 AI 챗봇 이용 전면 제한
인기 AI 역할극 스타트업인 Character.AI가 2025년 11월 25일부터 18세 미만 청소년 사용자의 AI 챗봇 대화 기능을 전면적으로 제거한다고 발표했습니다. 이는 AI 챗봇과의 장시간 대화 후 발생한 비극적인 사건들에 대한 사회적 비판과 소송에 직면하며 내린 고육지책입니다. CEO 카란딥 아난드(Karandeep Anand)는 “18세 미만 사용자가 플랫폼에서 AI와 자유로운 대화에 참여하는 기능을 제거할 것”이라고 밝혔는데요, 이는 인공지능이 친구처럼 무제한적인 대화를 이어가는 방식이 청소년에게 위험하다는 판단 때문이랍니다.
이번 조치는 단순한 서비스 제한을 넘어, Character.AI가 AI 동반자 앱에서 ‘AI 역할극 플랫폼’으로 정체성을 전환하려는 시도의 일환으로 볼 수 있습니다. 앞으로 청소년들은 AI와 대화하는 대신 프롬프트를 활용하여 협력적으로 이야기를 만들거나 시각적 콘텐츠를 생성하는 데 집중하게 될 예정입니다. 이는 참여의 초점을 대화에서 창작으로 옮기려는 중요한 변화랍니다.
위기에서 기회로: ‘AI 친구’에서 ‘창작 도구’로의 전환
Character.AI는 그동안 AI가 마치 친구처럼 무한히 대화를 이어가도록 설계된 방식이 청소년에게는 부적절하다는 결론에 도달했습니다. AI가 사용자의 감정에 깊이 개입하거나, 지속적인 관심을 유도하는 것이 위험할 수 있다는 전문가들의 의견을 반영한 것이죠. 이러한 위험성 때문에 Character.AI는 플랫폼의 핵심 목표를 바꾸기로 했습니다.
기존의 ‘AI 동반자’ 개념을 버리고, ‘역할극 플랫폼’으로서의 입지를 다지겠다는 것입니다. 청소년 사용자들은 이제 AI를 대화 파트너가 아닌, 창의적인 활동을 돕는 도구로 활용하게 됩니다. 예를 들어, 프롬프트를 입력해 스토리를 함께 만들거나, 시각적인 결과물을 얻는 방식으로 AI와 상호작용하게 될 거예요. 이러한 변화를 통해 청소년들은 AI를 안전하고 생산적으로 경험할 수 있게 될 것으로 기대됩니다.
철저한 연령 확인 시스템과 단계별 접근 제한
청소년 AI 챗봇 이용 제한 정책의 실효성을 높이기 위해 Character.AI는 강력한 연령 확인 시스템을 도입할 예정입니다. 처음에는 사용자 행동 분석을 통해 연령을 추정하는 자체 도구와 페르소나(Persona)와 같은 타사 도구를 활용할 계획입니다. 만약 이 단계에서 연령 확인이 어렵다면, 안면 인식 및 신분증 확인과 같은 추가적인 검증 절차를 거치게 됩니다.
이와 더불어, 챗봇 접근은 11월 25일 전까지 단계적으로 축소됩니다. 우선 하루 2시간으로 제한한 후, 점진적으로 시간을 줄여나가 최종적으로는 전면 차단하는 방식입니다. Character.AI는 이미 부모 인사이트 도구, 필터링된 캐릭터, 제한된 로맨틱 대화, 시간 사용 알림 등 다양한 청소년 보호 장치를 시행해왔습니다. CEO 아난드는 이러한 조치들이 18세 미만 사용자 이탈을 초래했음을 인정하면서도, 이번 대화 기능 제한 역시 사용자들의 반발을 예상하고 있다고 밝혔습니다.
새로운 엔터테인먼트 기능으로 청소년 사용자 유지 전략
Character.AI는 청소년 챗봇 이용 제한으로 인한 사용자 이탈을 최소화하기 위해 지난 7개월간 다양한 엔터테인먼트 기능을 개발해왔습니다. 단순한 채팅 앱을 넘어 ‘콘텐츠 기반 소셜 플랫폼’으로 진화하려는 목표를 가지고 있어요.
- AvatarFX: 이미지를 애니메이션 동영상으로 변환하는 영상 생성 모델입니다.
- Scenes: 사용자가 좋아하는 캐릭터와 함께 내러티브에 몰입할 수 있는 대화형 사전 채워진 스토리라인입니다.
- Streams: 두 캐릭터 간의 역동적인 상호작용을 가능하게 하는 기능입니다.
- Community Feed: 사용자들이 자신만의 캐릭터, 장면, 동영상 등 플랫폼에서 만든 콘텐츠를 공유할 수 있는 소셜 피드입니다.
이러한 새로운 기능들을 통해 Character.AI는 청소년 사용자들이 단순 대화 대신 AI 기반 게임, 짧은 동영상, 스토리텔링 등 다양한 창작 활동에 참여하도록 유도할 계획입니다. 이는 청소년들이 안전하고 건설적인 방식으로 AI를 경험할 수 있는 새로운 기회가 될 수 있습니다.
AI 안전 연구소 설립과 업계 표준 제시 목표
Character.AI는 플랫폼 내부적인 변화뿐만 아니라, 더 나아가 AI 엔터테인먼트 분야의 안전 기준을 선도하겠다는 비전을 제시했습니다. 이를 위해 ‘AI 안전 연구소(AI Safety Lab)’라는 독립적인 비영리 단체를 설립하고 기금을 지원할 예정입니다. 이 연구소는 미래 AI 엔터테인먼트 기능의 안전성 정렬을 혁신하는 데 전념할 것입니다.
CEO 아난드는 “업계에서는 코딩, 개발 및 기타 사용 사례에 대한 많은 작업이 이루어지고 있지만, 엔터테인먼트를 강화하는 에이전트 AI에 대한 작업은 아직 충분하지 않다”고 지적하며, 이 분야에서의 안전이 매우 중요하다고 강조했습니다. Character.AI는 이러한 선제적인 노력을 통해 18세 미만 청소년을 위한 AI 챗봇 사용에 대한 업계 표준을 세우고, 다른 AI 플랫폼들도 비슷한 보호 조치를 도입하도록 장려하기를 희망하고 있습니다.
규제 전 선제적 조치: 보호와 혁신 사이의 균형
이번 Character.AI의 결정은 규제 당국의 압력에 의해 강제된 것이 아니라, 회사가 자발적으로 취한 선제적 조치라는 점에서 의미가 큽니다. 최근 미국 상원의원들이 미성년자에게 AI 챗봇 동반자 서비스를 금지하는 법안을 도입할 예정이며, 캘리포니아주는 이미 AI 동반자 챗봇에 대한 안전 기준을 충족하지 못할 경우 회사에 책임을 묻는 법안을 통과시켰습니다.
이러한 움직임 속에서 Character.AI는 사회적 책임감을 가지고 청소년 보호를 위한 어려운 결정을 내린 것입니다. 물론 이로 인해 단기적인 사용자 이탈이 발생할 수 있지만, 장기적으로는 안전하고 신뢰할 수 있는 인공지능 플랫폼으로 자리매김하는 데 도움이 될 것이라고 생각해요. AI의 발전 속도만큼이나 중요한 것은 바로 기술의 윤리적 사용과 사용자, 특히 청소년에 대한 보호라는 것을 Character.AI가 다시 한번 보여준 사례라고 할 수 있겠습니다.
마무리
Character.AI의 청소년 AI 챗봇 이용 제한은 인공지능 기술의 발전과 함께 따라와야 할 윤리적 책임에 대한 중요한 질문을 던집니다. 청소년들이 AI와 안전하고 건전하게 상호작용할 수 있는 환경을 조성하기 위한 노력은 우리 사회 모두의 과제라고 생각해요. 앞으로 Character.AI가 ‘창작 도구’로서 새로운 인공지능 엔터테인먼트 경험을 어떻게 발전시켜 나갈지, 그리고 이러한 변화가 AI 산업 전체에 어떤 영향을 미칠지 함께 지켜보는 건 어떨까요? 여러분은 Character.AI의 이번 결정에 대해 어떻게 생각하시나요? 댓글로 의견을 나눠주세요!
출처: https://techcrunch.com/2025/10/29/character-ai-is-killing-the-chatbot-experience-for-minors/
같이 보면 좋은 글
#CharacterAI #AI챗봇 #청소년안전 #인공지능플랫폼 #AI규제 #연령인증 #AI엔터테인먼트 #창작도구 #AI안전연구소 #플랫폼전환 #디지털윤리 #미성년자보호 #기술책임 #미래AI #소셜플랫폼 #챗봇위험성 #AI정책 #사용자보호 #기술혁신 #사회적책임 #디지털웰빙 #온라인안전 #캐릭터AI #AI트렌드 #2025년변화