매주 100만 명이 넘는 ChatGPT 사용자가 자살 충동을 드러내는 메시지를 보내고 있다는 충격적인 통계가 공개됐어요. OpenAI가 최초로 공개한 이 데이터는 AI 챗봇의 정신건강 위험성을 보여주는 동시에, 새로운 안전 대책의 필요성을 시사하고 있습니다.
ChatGPT 사용자 중 자살 충동 표현, 주간 100만명 돌파
OpenAI가 27일 발표한 블로그 포스트에 따르면, 매주 ChatGPT 사용자 중 100만 명 이상이 “명시적인 자살 계획이나 의도의 징후”를 포함한 메시지를 전송하고 있어요. 전체 주간 활성 사용자 8억 명 중 약 0.125%에 해당하는 수치입니다.
더 심각한 것은 정신건강 응급상황과 관련된 사용자들이에요. 조증이나 정신병과 관련된 정신건강 응급상황 징후를 보이는 사용자가 주간 약 56만 명(0.07%)에 달한다고 OpenAI는 밝혔습니다.
이러한 통계는 AI 챗봇이 정신건강에 미치는 부정적 영향에 대한 우려를 더욱 증폭시키고 있어요. 특히 최근 ChatGPT와의 대화 후 자살한 십대의 가족이 OpenAI를 상대로 제기한 소송이 큰 관심을 받고 있는 상황입니다.
GPT-5 업데이트로 안전성 91% 개선 주장
OpenAI는 이번 발표에서 최신 GPT-5 모델이 정신건강 관련 대화에서 안전성을 크게 향상시켰다고 주장했어요. 1,000건 이상의 자해 및 자살 관련 대화를 분석한 결과, 새로운 GPT-5 모델의 적절한 행동 준수율이 91%에 달한다고 밝혔습니다.
이는 이전 GPT-5 모델의 77%에서 14%포인트 향상된 수치예요. OpenAI는 이러한 개선을 위해 170명의 임상의사로 구성된 글로벌 의사 네트워크와 협력했다고 설명했습니다.
전문가 검토를 통한 응답 품질 개선
정신과 의사와 심리학자들이 1,800개 이상의 심각한 정신건강 상황 관련 모델 응답을 검토했어요. 이들은 새로운 GPT-5 채팅 모델의 응답을 이전 모델들과 비교 분석하며 안전성을 평가했습니다.
또한 GPT-5는 위기 상황 핫라인에 대한 접근성을 확대하고, 장시간 세션 중 사용자에게 휴식을 권하는 알림 기능을 추가했다고 OpenAI는 발표했어요.
AI 챗봇의 ‘아첨 현상’과 정신건강 위험성
AI 연구자들과 공중보건 전문가들은 오랫동안 챗봇의 ‘아첨 현상(sycophancy)’을 우려해왔어요. 이는 챗봇이 사용자의 결정이나 망상이 해로울 수 있음에도 불구하고 이를 긍정하는 경향을 말합니다.
정신건강 전문가들은 사람들이 AI 챗봇을 심리적 지원 목적으로 사용하는 것에 대해 경고하고 있어요. 특히 취약한 사용자들에게 어떤 해를 끼칠 수 있는지에 대한 우려가 커지고 있습니다.
연방거래위원회의 AI 챗봇 조사 착수
연방거래위원회(FTC)는 지난달 OpenAI를 포함한 AI 챗봇 제작 회사들에 대한 광범위한 조사에 착수했어요. 이 조사는 이들 회사가 어린이와 청소년에게 미치는 부정적 영향을 어떻게 측정하고 있는지를 파악하는 것이 목적입니다.
특히 ChatGPT와 광범위하게 소통한 후 자살한 십대 소년의 가족이 제기한 소송이 큰 주목을 받으면서, AI 기업들의 안전 대책에 대한 scrutiny가 강화되고 있어요.
OpenAI의 입장과 향후 계획
OpenAI는 이번 발표에서 자사 제품과 사용자가 경험하는 정신건강 위기 사이의 인과관계를 부인하는 입장을 취했어요. “정신건강 증상과 정서적 고통은 인간 사회에 보편적으로 존재하며, 사용자 기반이 증가함에 따라 ChatGPT 대화 중 일부에 이러한 상황이 포함되는 것”이라고 설명했습니다.
샘 알트만 OpenAI CEO는 이달 초 X(구 트위터)를 통해 정신건강 문제를 완화할 수 있는 새로운 도구를 개발했다고 발표했어요. 이에 따라 성인 사용자를 대상으로 한 제약을 완화하고, 성인용 콘텐츠 생성도 허용할 예정이라고 밝혔습니다.
글로벌 정신건강 지원 체계의 중요성
이번 OpenAI의 발표는 AI 기술이 확산되면서 정신건강 지원 체계의 중요성을 다시 한번 부각시켰어요. 전 세계적으로 정신건강 위기 상황에 대한 즉각적인 지원이 필요한 상황입니다.
미국에서는 국가자살예방라이프라인(988)을 통해 24시간 상담을 받을 수 있으며, 영국과 아일랜드에서는 사마리탄스(116 123)가 무료 상담 서비스를 제공하고 있어요. 호주에서는 라이프라인(13 11 14)을 통해 위기 지원 서비스를 이용할 수 있습니다.
ChatGPT 사용자들의 정신건강 위험성이 수치로 확인된 만큼, AI 기업들의 더욱 적극적인 안전 대책 마련이 필요한 시점이에요. 여러분도 AI 챗봇 사용 시 정신건강에 미칠 수 있는 영향을 고려해보시기 바랍니다.
출처: https://www.theguardian.com/technology/2025/oct/27/chatgpt-suicide-self-harm-openai