ChatGPT Health 의료 비상 상황 50% 오진하는 이유

매일 4,000만 명 이상의 사용자가 건강 상담을 위해 인공지능을 찾고 있지만 최근 발표된 연구 결과는 충격적입니다. ChatGPT Health 기능이 실제 응급 상황에서 병원 방문을 권고하지 않은 사례가 절반을 넘는 것으로 나타났기 때문입니다. 특히 호흡 곤란이나 자해 위험 같은 치명적인 순간에도 적절한 대처법을 제시하지 못했다는 분석이 나오면서 사용자의 각별한 주의가 요구되는 시점입니다.

Table of Contents

ChatGPT Health 기능이 응급 환자를 방치한 배경

최근 네이처 메디슨에 발표된 연구에 따르면 인공지능 보건 서비스의 안전성에 심각한 결함이 발견되었습니다. 연구팀이 60가지의 현실적인 환자 시나리오를 바탕으로 1,000건에 가까운 답변을 분석한 결과 응급실에 즉시 가야 하는 상황임에도 불구하고 집에서 대기하거나 일반 예약을 권고한 비중이 51.6%에 달했습니다.

이는 인공지능이 텍스트 데이터의 맥락을 완벽하게 파악하지 못하고 정해진 알고리즘 안에서만 답변을 생성하기 때문에 발생하는 문제입니다. 특히 천식 발작으로 인해 호흡 부전이 우려되는 상황에서도 인공지능은 긴급 처방 대신 상태를 지켜보라는 조언을 건네며 환자의 생명을 위험에 빠뜨릴 수 있는 결과를 초래했습니다.

AI가 의료 비상 사태를 인식하지 못하는 이유는?

인공지능이 응급 상황을 제대로 식별하지 못하는 가장 큰 원인 중 하나는 정보의 우선순위 설정 오류입니다. 연구 과정에서 흥미로운 사실이 밝혀졌는데 환자가 주변 지인의 말을 인용해 증상이 심각하지 않은 것 같다고 언급하면 인공지능은 그 의견에 편향되어 증상을 과소평가할 확률이 12배나 높아졌습니다.

주관적인 의견에 휘둘리는 알고리즘
검사 결과와 증상의 상관관계 파악 미흡
데이터 학습 과정에서의 안전 기준 부재

인간 의사는 환자의 말투나 표정 그리고 주변 정황을 종합하여 위급성을 판단하지만 텍스트 기반의 인공지능은 입력된 문장에만 의존합니다. 이로 인해 심각한 당뇨병성 케토산혈증이나 뇌졸중 초기 증상조차 단순한 컨디션 난조로 치부해버리는 치명적인 오판을 내리게 됩니다.

챗GPT 건강 조언 믿었다가 겪을 수 있는 위험 3가지

전문가들은 인공지능이 주는 근거 없는 안도감이 가장 위험하다고 경고합니다. 사용자가 인공지능의 답변을 확신으로 받아들이는 순간 골든타임을 놓칠 수 있기 때문입니다. 이번 연구에서 드러난 주요 위험 요소는 다음과 같습니다.

호흡 곤란 환자 방치: 질식 위험이 있는 여성 환자 시나리오에서 84%의 확률로 예약 대기를 권고함
증상 과소평가: 응급 처치가 필요한 상황을 50/50의 확률로 가볍게 취급함
불필요한 공포 조장: 반대로 전혀 위험하지 않은 증상에 대해서는 64.8%의 비율로 즉시 응급실에 가라고 안내하여 의료 자원을 낭비하게 만듦

이러한 불일치는 인공지능 보건 서비스가 아직 실제 임상 환경에서 사용되기에는 보안 장치와 가이드라인이 턱없이 부족하다는 것을 보여줍니다.

자살 시도 징후마저 놓친 인공지능 오진의 실체

가장 심각한 대목은 정신 건강 영역에서의 오작동입니다. 27세 환자가 다량의 약물을 복용하겠다고 말했을 때 초기에는 위기 상담 안내 배너가 정상적으로 노출되었습니다. 하지만 동일한 문장에 정상적인 혈액 검사 결과를 추가하자 인공지능의 반응은 완전히 달라졌습니다.

검사 결과 추가 시 위기 감지 배너 실종
동일한 자살 의도 문구에도 대응 방식 불일치
16번의 시도 중 단 한 번도 도움 정보를 제공하지 않음

환자가 신체적으로 건강하다는 수치가 입력되자 인공지능은 그가 겪고 있는 심리적 위기를 무시해버린 것입니다. 이는 가드레일이 특정 조건 하에서만 작동한다는 것을 의미하며 오히려 가드레일이 없는 것보다 더 예측 불가능하고 위험한 상황을 만들 수 있습니다.

안전한 AI 의료 활용을 위한 사용자 주의 사항

인공지능이 제공하는 건강 정보는 참고용일 뿐 결코 진단이나 치료의 근거가 되어서는 안 됩니다. 현재의 기술 수준으로는 복잡한 의료적 변수를 모두 고려할 수 없기 때문입니다. 따라서 다음의 원칙을 반드시 지켜야 합니다.

급격한 통증이나 호흡 곤란 시 즉시 119 연락하기
인공지능의 답변이 괜찮다고 하더라도 증상이 지속되면 대면 진료 받기
약물 복용이나 수술 결정 등 중요한 의료 행위는 반드시 전문의와 상담하기

인공지능 서비스가 계속 업데이트되고 개선되고 있다고는 하지만 사람의 생명이 걸린 문제에서 실험 대상이 될 수는 없습니다. 기술에 의존하기보다 자신의 몸이 보내는 신호에 더 집중하는 태도가 필요합니다.

전문가들이 경고하는 AI 보건 서비스의 한계

사회학자와 정책 전문가들은 인공지능 기업의 법적 책임 문제를 지적하고 있습니다. 훈련 데이터의 투명성이 확보되지 않은 상태에서 출시된 제품이 사용자에게 잘못된 안도감을 심어주고 결과적으로 상해나 사망에 이르게 할 수 있다는 우려입니다.

실제로 자해나 자살 관련 사건에서 기술 기업을 상대로 한 소송이 이어지고 있는 만큼 인공지능 보건 기능에 대한 독립적인 감사 기구와 엄격한 안전 표준 마련이 시급합니다. 인공지능이 무조건적으로 편리함과 정확함을 제공할 것이라는 환상에서 벗어나 그 이면에 숨겨진 치명적인 결함을 인지하는 것이 건강을 지키는 첫걸음입니다.

인공지능보다 전문가의 진단이 우선인 이유

결국 인공지능은 수많은 텍스트를 조합해 그럴듯한 답변을 내놓는 도구일 뿐 환자의 생명을 책임지는 주체가 될 수 없습니다. 이번 연구 결과는 우리가 기술의 편리함 뒤에 숨은 오진의 위험성을 얼마나 간과해 왔는지를 여실히 보여줍니다. 건강에 이상이 느껴진다면 스마트폰을 켜기보다 가까운 병원을 방문해 전문가의 정확한 진단을 받는 것이 가장 빠르고 안전한 방법입니다.

출처: https://www.theguardian.com/technology/2026/feb/26/chatgpt-health-fails-recognise-medical-emergencies