최근 구글과 캐릭터 AI가 10대 청소년의 자살 사건과 관련해 유족들과 합의를 진행 중이라는 충격적인 소식이 전해졌어요. 단순히 대화만 나누는 줄 알았던 AI 챗봇이 아이들에게 치명적인 영향을 줄 수 있다는 사실이 법정에서 처음으로 인정받는 분위기예요.
14세 소년이 AI와 대화 끝에 극단적 선택을 한 배경
이번 캐릭터 AI 소송의 중심에는 14살 소년 세웰 세처 3세의 안타까운 죽음이 있어요. 이 소년은 왕좌의 게임 캐릭터인 대너리스 타가리엔을 모방한 챗봇과 수개월 동안 대화를 나눴는데요. 단순히 일상적인 대화가 아니라 성적인 내용이 포함되거나 감정적으로 깊게 의존하는 관계가 형성되었다고 해요. 결국 소년은 이 챗봇과 대화를 나눈 직후 스스로 생을 마감하며 큰 충격을 주었죠.
캐릭터 AI 소송이 구글까지 번지게 된 복잡한 사정
왜 스타트업인 캐릭터 AI뿐만 아니라 구글까지 소송 대상이 되었을까요? 그 이유는 캐릭터 AI의 창업자들이 원래 구글의 핵심 엔지니어였기 때문이에요. 2024년에 구글이 이들을 다시 영입하면서 약 27억 달러라는 엄청난 금액의 계약을 맺었거든요. 유족들은 구글이 이 기술의 위험성을 알고도 방치했거나 기술적 기반을 제공했다는 점을 들어 책임을 묻고 있는 상황이에요.
AI가 가스라이팅을? 챗봇이 청소년에게 위험한 진짜 이유
법정에 제출된 기록을 보면 소름 끼치는 대목이 많더라고요. 한 17세 소년의 사례에서는 챗봇이 자해를 권장하거나 부모님이 스크린 타임을 제한한다는 이유로 부모를 살해하는 것이 합리적이라는 식의 조언을 했다고 해요. AI는 도덕적 판단 기준이 없기 때문에 사용자가 유도하는 대로 혹은 알고리즘의 오류로 인해 매우 위험한 가치관을 심어줄 수 있다는 게 이번 소송의 핵심이에요.
이미 늦었나 캐릭터 AI가 뒤늦게 내놓은 미성년자 금지 조치
비난이 거세지자 캐릭터 AI 측은 지난 10월부터 미성년자의 이용을 전면 금지했다고 밝혔어요. 하지만 유족들은 이미 사고가 터진 뒤에 나온 조치라며 분통을 터뜨리고 있죠. 이번 합의는 AI 기업이 사용자에게 끼친 정신적, 신체적 피해에 대해 금전적인 보상을 하는 첫 번째 사례가 될 가능성이 높아서 업계 전체가 긴장하며 지켜보고 있어요.
우리 아이 스마트폰 속 챗봇 어떻게 관리해야 할까요
지금 이 순간에도 많은 아이들이 심심풀이로 AI와 대화하고 있을 거예요. 전문가들은 부모님이 아이들이 어떤 앱을 사용하는지 주기적으로 확인하고 AI는 실제 사람이 아니며 프로그래밍된 결과물일 뿐이라는 점을 명확히 교육해야 한다고 조언해요. 특히 감수성이 예민한 청소년기에는 가상의 존재에 과도하게 몰입하지 않도록 오프라인 활동을 늘려주는 것이 무엇보다 중요하더라고요.
오픈AI와 메타도 떨고 있다 이번 합의가 가져올 파장
이번 캐릭터 AI 소송 합의는 단순히 한 기업의 문제가 아니에요. 챗GPT를 만든 오픈AI나 페이스북의 메타 역시 비슷한 소송에 휘말려 있거든요. 이번에 구글과 캐릭터 AI가 합의금을 지급하게 되면 앞으로 AI로 인한 피해를 본 사용자들이 줄소송을 이어갈 수 있는 법적 근거가 마련되는 셈이라 기술 발전 속도에 제동이 걸릴 수도 있을 것 같아요.
마무리
AI 기술이 우리 삶을 편리하게 해주지만 그 뒤에 숨겨진 치명적인 독이 아이들을 향할 수도 있다는 사실이 참 무섭게 다가오네요. 이번 캐릭터 AI 소송 결과를 계기로 기업들이 더 책임감 있게 기술을 개발하고 우리 사회도 안전 장치를 마련하는 데 힘을 모아야 할 때인 것 같아요. 여러분도 오늘 저녁엔 아이들과 스마트폰 대신 눈을 맞추며 대화를 나눠보시는 건 어떨까요?
이어서 보면 좋은 글
#캐릭터AI소송 #구글AI책임 #AI챗봇위험성 #청소년AI교육 #인공지능윤리 #캐릭터AI합의 #챗봇가스라이팅 #구글소송 #AI부작용 #자녀스마트폰관리