건강이 걱정되어 구글에 증상을 검색했는데 AI가 잘못된 정보를 준다면 어떨까요? 최근 구글이 일부 의료 관련 검색에서 AI 개요 기능을 긴급 중단했어요. 전문가들이 ‘위험하다’고 경고한 이유와 우리가 주의해야 할 점을 정리해 드릴게요
구글이 갑자기 의료 AI 검색 서비스를 중단한 이유
최근 구글이 인공지능이 요약해주는 AI 오버뷰 기능을 일부 의료 분야에서 삭제했다는 소식이 들려왔어요. 영국의 가디언지와 더 버지 등 주요 외신에 따르면 구글의 AI가 제공하는 의료 정보가 사실과 다르거나 심지어 환자에게 치명적일 수 있다는 조사 결과가 나왔기 때문이에요. 전문가들은 이 결과를 보고 경악을 금치 못했다고 하더라고요. 단순히 사소한 실수가 아니라 생명과 직결된 문제에서 오답을 내놓았다는 점이 큰 충격을 주었어요. 결국 구글은 논란이 된 특정 질문들에 대해 AI 답변 기능을 완전히 비활성화하는 조치를 취했답니다.
췌장암 환자에게 지방을 권했다? 치명적이었던 AI의 오답들
가장 논란이 된 사례 중 하나는 췌장암 환자에 대한 식이요법 조언이었어요. 구글 AI는 췌장암 환자들에게 고지방 음식을 섭취하라는 권고를 내놓았는데요. 이는 실제 의학적 권고와는 정반대되는 아주 위험한 정보였어요. 전문가들은 이런 잘못된 정보가 환자의 상태를 악화시키고 심지어 사망 위험까지 높일 수 있다고 경고했죠. 암처럼 중대한 질병을 앓고 있는 분들이 검색 결과만 믿고 식단을 조절했다면 정말 아찔한 상황이 벌어질 뻔했어요. AI가 인터넷상의 수많은 데이터를 학습하지만 무엇이 옳고 그른지 완벽하게 판별하지 못한다는 한계를 극명하게 보여준 사례였어요.
간 수치 해석 오류가 부른 아찔한 상황
간 기능 검사 결과에 대한 AI의 답변도 심각한 수준이었어요. 간 수치가 정상 범위를 벗어났음에도 불구하고 AI는 이를 정상이라고 안내하거나 잘못된 해석을 제공했거든요. 심각한 간 질환을 앓고 있는 사람이 AI의 답변만 믿고 자신의 상태가 건강하다고 오해할 수 있는 상황이었죠. 진단이 늦어지면 치료 시기를 놓칠 수 있기 때문에 이런 오보는 단순한 정보 오류 이상의 의미를 가져요. 의료 전문 지식이 없는 일반인들은 AI가 정중한 말투로 정보를 제공하면 이를 사실로 받아들이기 쉬운데 이번 사건은 그 위험성을 다시 한번 일깨워주었네요.
AI는 왜 자꾸 거짓 정보를 진짜처럼 말할까요
구글 AI는 이전에도 피자에 풀을 붙여 먹으라거나 돌을 먹으라는 등의 황당한 답변으로 구설에 오른 적이 있었죠. 이런 현상을 환각 또는 할루시네이션이라고 불러요. AI는 문장의 흐름상 자연스러운 답변을 만들어내는 데 능숙하지만 그 내용의 진위 여부를 스스로 검증하는 능력은 아직 부족하거든요. 특히 의료 정보는 복잡하고 예외 상황이 많아서 AI가 잘못된 데이터를 학습했을 때 그 파급력이 훨씬 커요. 구글이 야심 차게 준비한 기능임에도 불구하고 생명과 관련된 영역에서는 아직 신뢰도가 충분히 확보되지 않았다는 것을 보여주네요.
인터넷 건강 정보 검색할 때 이것만은 꼭 확인하세요
이제는 검색 결과 상단에 뜨는 요약 정보라고 해서 무조건 믿어서는 안 되는 시대가 되었어요. 건강 정보를 검색할 때는 반드시 다음 사항을 체크해보세요.
- 정보의 출처가 공신력 있는 병원이나 국가 기관인지 확인하기
- AI 요약 결과보다는 원문 기사나 논문을 직접 찾아보기
- 서로 다른 여러 소스의 정보를 교차 검증하기
- 가장 중요한 것은 자가 진단 대신 반드시 의사와 상담하기
검색 엔진은 참고용일 뿐이며 최종적인 건강 상태 판단은 전문가에게 맡기는 것이 가장 안전한 방법이더라고요.
전문가의 진단이 AI 답변보다 수만 배 중요한 이유
우리의 몸은 사람마다 상태가 다르고 같은 증상이라도 원인이 천차만별이에요. AI는 일반적인 데이터를 기반으로 답변을 생성하지만 의사는 환자의 과거 병력과 현재 상태 그리고 정밀한 검사 결과를 종합해서 판단하죠. 구글이 이번에 의료 AI 답변을 철회한 것도 이런 전문성의 영역을 AI가 대체하기엔 아직 역부족이라는 점을 인정한 셈이에요. 기술이 아무리 발전해도 내 몸을 지키는 가장 확실한 방법은 병원을 방문해 정확한 진료를 받는 것이라는 점을 잊지 마세요.
마무리
구글의 의료 AI 답변 중단 사태는 우리에게 기술의 편리함 뒤에 숨은 위험성을 잘 알려주었어요. 건강 정보만큼은 편리함보다 정확성이 우선되어야 하니까요. 앞으로 검색 기능을 활용할 때도 인공지능의 답변을 맹신하기보다는 보조적인 수단으로만 참고하는 지혜가 필요할 것 같아요. 여러분도 몸에 이상이 느껴진다면 검색창보다는 병원 문을 먼저 두드리는 습관을 가져보시는 건 어떨까요? 건강한 생활을 위해 정확한 정보를 선별하는 능력이 무엇보다 중요한 때입니다.
출처: https://www.theverge.com/news/860356/google-pulls-alarming-dangerous-medical-ai-overviews
같이 보면 좋은 글
#구글AI #의료정보오류 #건강검색주의사항 #AI오버뷰 #구글검색업데이트 #의료AI위험성 #췌장암식이요법 #간기능검사 #디지털헬스케어 #팩트체크