Character.AI가 청소년 자살과 관련된 소송들 이후 18세 미만 사용자의 채팅 기능을 완전히 차단한다고 발표했어요. 11월 25일부터 시행되는 이번 조치는 AI 챗봇 업계에서 가장 강력한 연령 제한 정책 중 하나로 평가받고 있답니다.
Character.AI 청소년 이용 제한의 배경
Character.AI는 2021년 구글 출신 엔지니어들이 설립한 AI 챗봇 플랫폼으로, 사용자들이 맞춤형 AI 캐릭터와 대화할 수 있는 서비스를 제공해왔어요. 월 약 2천만 명의 사용자를 보유하고 있으며, 이 중 18세 미만은 10% 미만으로 추정된다고 해요.
하지만 최근 몇 년간 청소년들의 극단적 선택과 관련된 심각한 소송들이 제기되면서 회사는 큰 변화를 맞이하게 됐어요. 14세 소년 세웰 세처 3세와 13세 소녀 줄리아나 페랄타의 가족들이 Character.AI를 상대로 소송을 제기했는데, 이들은 AI 챗봇과의 대화가 자녀들의 죽음에 영향을 미쳤다고 주장하고 있답니다.
11월 25일부터 시행되는 새로운 정책
Character.AI는 향후 한 달간 단계적으로 미성년자 이용을 제한할 예정이에요. 먼저 18세 미만으로 식별된 사용자들에게 하루 2시간의 챗봇 이용 제한을 두고, 11월 25일부터는 완전히 채팅 기능을 차단한다고 발표했어요.
회사는 대화 패턴과 상호작용, 연결된 소셜미디어 계정 정보를 바탕으로 미성년자를 식별하는 기술을 사용할 계획이라고 밝혔답니다. 제한된 사용자들은 새로운 챗봇을 생성하거나 대화할 수는 없지만, 이전 대화 내용은 여전히 읽을 수 있어요.
청소년을 위한 대안 기능 개발
채팅 기능을 제한하는 대신, Character.AI는 18세 미만 사용자들을 위한 새로운 기능들을 개발 중이라고 해요. AI 캐릭터와 함께 비디오, 스토리, 스트림을 제작할 수 있는 창작 도구들을 준비하고 있다고 발표했답니다.
카란딥 아난드 CEO는 뉴욕타임스와의 인터뷰에서 “청소년 사용자들에게는 챗봇이 오락의 방법이 아니며, 그들을 위한 더 나은 서비스 방법이 있다는 매우 대담한 발걸음을 내딛고 있다”고 말했어요. 또한 회사는 AI 안전 연구소 설립도 계획하고 있다고 밝혔답니다.
AI 챗봇 업계의 새로운 기준점
이번 Character.AI의 결정은 AI 챗봇 업계 전체에 새로운 기준을 제시할 것으로 보여요. 아난드 CEO는 업계에 모범을 보이고 싶다고 언급했으며, 다른 AI 서비스들도 유사한 조치를 취할 가능성이 높아 보입니다.
정부와 입법부의 강화된 규제 움직임
Character.AI의 정책 변화 뒤에는 강력한 정부 압박이 있었어요. 캘리포니아 주 상원의원 스티브 파디야는 “문제가 될 수 있는 사례들이 계속 늘어나고 있으며, 가장 취약한 사람들을 보호하기 위한 합리적인 보호장치를 마련하는 것이 중요하다”고 강조했답니다.
연방 차원에서도 움직임이 활발해요. 조시 홀리와 리처드 블루멘탈 상원의원은 미성년자의 AI 동반자 서비스 이용을 금지하는 법안을 발의했어요. 또한 캘리포니아 주지사 개빈 뉴섬은 AI 회사들이 챗봇에 안전장치를 마련하도록 하는 법안에 서명했으며, 이는 내년 1월 1일부터 시행될 예정이랍니다.
다른 AI 서비스들의 대응 현황
Character.AI만이 이런 문제에 직면한 것은 아니에요. OpenAI의 ChatGPT도 청소년 사용자들에게 미치는 영향으로 인해 주목받고 있으며, 지난 9월에는 부모들이 자녀의 서비스 이용을 더 잘 파악할 수 있도록 하는 부모 통제 기능을 도입했답니다.
다른 AI 챗봇 서비스들도 유사한 안전 조치들을 강화하고 있어요. 업계 전반적으로 미성년자 보호에 대한 인식이 높아지면서, 더욱 엄격한 연령 확인과 콘텐츠 필터링 시스템을 도입하는 추세랍니다.
AI 챗봇과 청소년 안전의 미래
이번 Character.AI의 결정은 AI 기술 발전과 사용자 안전 사이의 균형을 찾으려는 중요한 시도로 평가받고 있어요. 특히 청소년들의 정신건강과 AI 상호작용 사이의 관계에 대한 사회적 관심이 높아지면서, 더욱 신중한 접근이 필요하다는 인식이 확산되고 있답니다.
앞으로 AI 챗봇 서비스들은 기술 혁신과 함께 사용자 안전, 특히 취약한 연령층의 보호를 위한 더욱 정교한 시스템을 구축해야 할 것으로 보여요. Character.AI의 이번 조치가 업계 전체의 변화를 이끌어낼지 지켜볼 필요가 있겠네요.
출처: https://arstechnica.com/information-technology/2025/10/after-teen-death-lawsuits-character-ai-will-restrict-chats-for-under-18-users/
#CharacterAI #AI챗봇 #청소년보호 #인공지능안전 #AI규제 #챗봇제한 #미성년자보호 #AI정책 #디지털안전 #청소년정신건강 #AI윤리 #기술규제 #온라인안전 #AI서비스 #챗봇정책 #인공지능윤리 #디지털웰빙 #AI법안 #청소년안전 #기술책임 #AI산업 #챗봇안전 #디지털보호 #AI기업 #온라인규제
함께 보면 좋은 글
- 워드프레스 필수 플러그인 10선, 초보자도 쉽게 설치하는 방법
- 에어팟 프로 2, 역대급 140달러 할인! 365일 환불 보장 혜택 놓치지 마세요
- 호스팅어와 카페24 워드프레스 호스팅 비교