최근 딜로이트가 AI를 활용한 44만 달러 규모의 보고서에서 심각한 오류가 발견되어 정부에 부분 환불을 결정했습니다. AI 보고서의 ‘환각’ 현상이 가져온 이번 논란은 인공지능 활용에 대한 중요한 경고등을 켜고 있습니다. 이번 사태의 주요 쟁점과 시사점을 자세히 알아보세요.
딜로이트 AI 보고서, 44만 달러 환불 사태의 전말
호주 정부는 2024년 12월, 딜로이트에 고용 및 직장 관계부(DEWR)의 규제 준수 프레임워크와 IT 시스템을 검토하는 44만 달러 규모의 보고서를 의뢰했습니다. 이 보고서는 구직자 상호 의무 불이행 시 페널티를 자동 부과하는 복지 시스템의 문제점을 조사하는 것이었죠. 보고서는 7월 4일 처음 공개되었으나, 8월에 호주 파이낸셜 리뷰가 보고서 내 여러 오류, 즉 존재하지 않는 참고 문헌과 인용이 발견되었다고 보도하며 논란이 시작되었습니다. 결국 딜로이트는 생성형 AI를 활용했다고 인정하고, 정부에 계약금 일부를 환불하기로 결정했답니다.
AI ‘환각’ 현상, 왜 발생하고 신뢰성에 어떤 영향을 미칠까요?
딜로이트 보고서의 오류를 처음 지적했던 시드니 대학교의 크리스토퍼 러지 박사는 이를 ‘AI 환각(hallucinations)’ 현상이라고 설명했습니다. AI 모델이 데이터의 빈 부분을 채우거나, 데이터를 잘못 해석하거나, 답변을 추측하려 할 때 이러한 환각이 발생할 수 있다는 건데요. 실제로 보고서에는 시드니 대학교와 스웨덴 룬드 대학교 교수들의 존재하지 않는 보고서, 그리고 로보데트 사건의 허위 판결문 등이 인용되어 있었습니다.
생성형 AI의 양날의 검: 정확성 vs. 효율성
AI의 환각 현상은 특히 정보의 정확성이 생명인 보고서나 연구 자료에서 치명적일 수 있습니다. 딜로이트는 오류가 있었지만 보고서의 핵심 내용이나 권고사항에는 변화가 없다고 주장했지만, 이러한 신뢰성 문제는 보고서 전체의 가치를 훼손할 수 있습니다. 생성형 AI는 분명 업무 효율을 높이는 강력한 도구이지만, 그 결과물에 대한 맹신은 큰 위험으로 돌아올 수 있다는 점을 이번 사태는 보여주고 있습니다.
생성형 AI, 컨설팅 업무에 양날의 검이 될 수 있을까요?
이번 딜로이트 사태는 컨설팅 업계에 생성형 AI가 가져올 수 있는 기회와 위험을 동시에 보여주는 사례입니다. AI는 방대한 데이터를 빠르게 분석하고 초안을 작성하며 업무 효율을 극대화할 수 있습니다. 하지만 동시에 AI가 만들어낸 오류를 인간이 제대로 검증하지 못하면, 심각한 결과로 이어질 수 있다는 경고이기도 해요. 일부 노동당 상원의원은 “딜로이트에 인간 지능 문제가 있다”며 “AI가 막대한 업무를 떠맡고 있는 것처럼 보인다”고 비판하기도 했습니다.
AI 보고서, 반드시 인간의 검증이 필요해요
컨설팅 기업이 고액의 대가를 받고 보고서를 작성할 때, 의뢰인은 그 보고서의 내용이 전문가의 심층적인 분석과 검증을 거쳤을 것이라고 기대합니다. 하지만 AI가 생성한 내용에 대한 충분한 검토 없이 제출된다면, 이는 단순한 오류를 넘어 의뢰인에 대한 신뢰 상실로 이어질 수 있어요. 따라서 AI를 활용하더라도 최종 검증과 책임은 반드시 ‘사람’에게 있다는 점을 명심해야 합니다.
딜로이트 사태가 우리에게 주는 중요한 교훈
딜로이트의 AI 보고서 환불 사태는 우리에게 여러 가지 중요한 교훈을 남깁니다. 첫째, AI는 강력한 도구지만, ‘맹신’해서는 안 됩니다. 특히 중요한 의사결정이나 높은 수준의 정확성을 요구하는 분야에서는 인간의 비판적 사고와 철저한 검증 과정이 필수적입니다. 둘째, AI 활용에 대한 ‘투명성’을 확보해야 합니다. 보고서에 AI 사용 여부를 명시하고, AI가 생성한 부분과 인간이 검토하고 수정 보완한 부분을 명확히 하는 것이 중요해요. 셋째, AI 활용에 대한 명확한 ‘정책과 윤리 기준’을 수립해야 합니다. 정부와 기업 모두 AI 도입을 서두르기 전에, 책임 있는 AI 사용을 위한 가이드라인을 마련해야 할 것입니다.
이번 딜로이트 사태를 통해 AI 기술의 발전과 함께 그 이면에 숨겨진 위험을 인지하고, 더욱 신중하고 현명하게 AI를 활용하는 방안을 모색해야 할 때입니다. 여러분은 AI가 생성한 보고서에 대해 어떻게 생각하시나요?