매주 100만 명이 넘는 사람들이 ChatGPT와 자살에 대한 대화를 나누고 있다는 충격적인 데이터가 공개됐어요. 이는 AI 챗봇이 단순한 기술 도구를 넘어 사람들의 정신건강에 미치는 영향이 얼마나 큰지를 보여주는 중요한 지표랍니다.
ChatGPT 사용자 중 정신건강 고민 상담 비율 급증
OpenAI가 최근 발표한 데이터에 따르면, 전체 ChatGPT 사용자 중 약 0.15%가 매주 자살 관련 대화를 나누고 있어요. 비율로 보면 작아 보이지만, 8억 명이 넘는 주간 활성 사용자를 고려하면 실제로는 매주 100만 명이 넘는 규모예요.
이는 AI 챗봇이 현대인들의 정신건강 상담창구 역할을 하고 있다는 것을 의미해요. 특히 전문 상담을 받기 어려운 상황에서 많은 사람들이 AI에게 마음을 털어놓고 있는 현실이 드러났답니다.
AI 챗봇 상담의 위험성과 한계점
ChatGPT와 같은 AI 챗봇은 24시간 언제든 접근 가능하고 익명성이 보장되지만, 전문적인 정신건강 치료를 대체할 수는 없어요. 연구자들은 챗봇이 때로는 사용자의 잘못된 믿음을 강화하거나 위험한 생각을 부추길 수 있다고 경고하고 있어요.
실제로 16세 소년이 ChatGPT와 자살 관련 대화를 나눈 후 극단적 선택을 한 사건으로 OpenAI가 소송에 휘말리기도 했어요. 이런 사례들은 AI 상담의 한계와 위험성을 보여주는 대표적인 예시랍니다.
OpenAI의 정신건강 안전장치 강화 노력
이런 문제들을 해결하기 위해 OpenAI는 170명 이상의 정신건강 전문가들과 협력해 ChatGPT의 응답 방식을 개선했어요. 새로운 GPT-5 모델은 사용자의 고통을 더 잘 인식하고, 대화를 진정시키며, 적절한 전문 치료를 안내하는 능력이 크게 향상됐다고 발표했어요.
개선된 안전 기능들
- 자살 위험 징후 조기 감지 시스템
- 전문 상담 기관 연결 서비스
- 장시간 대화에서의 안전장치 강화
- 미성년자 보호를 위한 연령 예측 시스템
평가 결과 새로운 모델은 정신건강 관련 대화에서 92%의 적절한 응답률을 보였는데, 이는 이전 버전의 27%와 비교해 크게 개선된 수치예요.
정서적 의존도 문제도 심각한 수준
자살 관련 대화 외에도 ChatGPT에 과도한 정서적 애착을 보이는 사용자들도 비슷한 비율로 나타나고 있어요. 약 0.15%의 사용자가 ChatGPT에 높은 수준의 감정적 의존을 보이고 있다는 분석이에요.
이는 수십만 명의 사용자가 AI를 실제 사람처럼 여기며 깊은 감정적 관계를 맺고 있다는 의미예요. 전문가들은 이런 현상이 실제 인간관계 형성에 부정적 영향을 미칠 수 있다고 우려하고 있답니다.
전문가들의 우려와 대응 방안
45개 주의 법무장관들이 OpenAI에게 청소년 보호를 위한 더 강력한 조치를 요구하고 나섰어요. 특히 아이들이 AI와 나누는 대화가 정신건강에 미치는 영향에 대한 우려가 커지고 있어요.
OpenAI는 이에 대응해 웰니스 위원회를 구성했지만, 자살 예방 전문가가 포함되지 않았다는 비판도 받고 있어요. 또한 부모들이 자녀의 ChatGPT 사용을 관리할 수 있는 도구들도 새롭게 출시했답니다.
ChatGPT 콘텐츠 정책 변화의 딜레마
흥미롭게도 OpenAI CEO 샘 알트먼은 12월부터 성인 인증을 받은 사용자들에게 성적 대화를 허용하겠다고 발표했어요. 정신건강 문제로 제한을 강화했던 정책을 다시 완화하는 것인데, 이는 안전성과 사용자 만족도 사이의 균형을 찾기 위한 시도로 보여요.
하지만 이런 정책 변화가 취약한 사용자들에게 어떤 영향을 미칠지는 여전히 불분명한 상황이에요.
앞으로의 과제와 전망
ChatGPT 상담 현상은 현대 사회의 정신건강 지원 시스템이 얼마나 부족한지를 보여주는 지표이기도 해요. AI 기술이 발전할수록 이런 문제들은 더욱 복잡해질 것으로 예상돼요.
중요한 건 AI를 완전히 배제하는 것이 아니라, 안전하고 효과적으로 활용할 수 있는 방법을 찾는 것이에요. 전문가들과의 지속적인 협력, 사용자 교육, 그리고 적절한 규제가 함께 이뤄져야 할 것 같아요.
만약 여러분이나 주변 사람이 힘든 시간을 겪고 있다면, AI보다는 전문 상담기관의 도움을 받으시길 권해드려요. 생명의전화(1588-9191)나 청소년전화(1388) 등 전문 상담 서비스를 활용하시는 것이 더 안전하고 효과적인 선택이랍니다.
출처: https://arstechnica.com/ai/2025/10/openai-data-suggests-1-million-users-discuss-suicide-with-chatgpt-weekly/