최근 호주에서는 시드니 대학교 산하 연구소가 정부에 2000만 달러 규모의 예산을 요구하며 제출한 보고서가 AI 슬롭 문제로 논란이 되고 있습니다. 데이비드 포콕 상원의원은 이 보고서가 실체가 없는 가짜 데이터를 담고 있으며 정책 결정에 심각한 오류를 초래할 수 있다고 비판했습니다.
AI 슬롭 논란이 왜 시드니 대학교를 발칵 뒤집었나?
호주 정계에서 큰 파장을 일으킨 이번 사건은 시드니 대학교 산하의 아워퓨처스 연구소가 제출한 증거 검토 보고서에서 시작되었습니다. 이들은 15세에서 20세 사이의 청소년을 대상으로 하는 도박 예방 교육 프로그램을 운영하기 위해 정부에 거액의 지원금을 요청했습니다. 하지만 데이비드 포콕 상원의원이 공개한 바에 따르면 해당 보고서는 인공지능이 생성한 조작되거나 실체가 없는 정보를 다수 포함하고 있었습니다.
전문가들은 이를 전형적인 AI 슬롭 현상으로 규정했습니다. 이는 AI가 생성한 저품질의 쓸모없는 정보를 의미하며 특히 정책 결정의 근거가 되는 공공 보고서에서 이러한 현상이 발견되었다는 사실에 큰 충격을 주었습니다. 연구소 측은 이를 단순한 편집 도구의 오류라고 해명했지만 이미 학문적 신뢰도와 도덕성에 큰 타격을 입은 상태입니다.
도박 예방 교육 예산 확보를 위해 사용된 가짜 자료들
가장 문제가 된 부분은 보고서에 인용된 참고 문헌과 수치들이었습니다. 가디언 호주판의 분석 결과 이 보고서에는 존재하지 않는 연구 논문이 다수 포함되어 있었으며 링크가 깨져 있거나 인용된 내용과 실제 원문의 결과가 정반대인 경우도 발견되었습니다.
- 존재하지 않는 논문 인용: 특정 학자의 이름을 빌려 작성되었으나 실제로는 출간된 적 없는 논문들이 리스트에 올랐습니다.
- 조작된 경제적 수치: 학교 기반 예방 교육에 1달러를 투자할 때마다 8달러에서 10달러의 비용 절감 효과가 있다는 주장이 있었으나 이는 근거가 없는 것으로 밝혀졌습니다.
- 생산성 위원회 보고서 왜곡: 실제 호주 생산성 위원회는 학교 기반 교육의 효과에 회의적인 태도를 보였음에도 보고서는 이를 긍정적인 근거로 활용했습니다.
존재하지 않는 연구 결과를 인용하는 AI 환각의 위험성
이번 사건에서 주목해야 할 점은 단순히 오타가 발생한 것이 아니라 AI 환각 현상이 정책 제안서에 그대로 반영되었다는 것입니다. 데킨 대학교의 사만다 토마스 교수는 자신의 이름으로 인용된 두 편의 논문이 실제로 존재하지 않는다고 확인하며 분노를 표했습니다. 이는 인공지능이 그럴듯한 문장과 출처를 만들어내는 특성을 연구진이 제대로 검증하지 않고 그대로 사용했음을 보여줍니다.
공공 정책을 입안하는 과정에서 이러한 오류가 걸러지지 않는다면 국민의 혈세가 낭비될 뿐만 아니라 잘못된 교육 정책이 수립될 위험이 큽니다. 포콕 의원은 이 보고서를 슬롭으로 규정하며 실증적인 데이터 없이 작성된 문서가 정부의 예산 집행 근거가 되어서는 안 된다고 강조했습니다.
도박 산업의 후원을 숨긴 연구진의 불투명한 태도
연구소의 도덕성 논란은 AI 슬롭 문제에만 그치지 않았습니다. 이번 예산 요청서에는 시드니 대학교 뇌 및 마음 연구소의 샐리 게인즈버리 교수가 프로그램 리더로 언급되었으나 그녀가 도박 업계로부터 직간접적인 자금 지원을 받고 있다는 사실은 명시되지 않았습니다.
- 업계 자금 지원: 카지노 및 스포츠 베팅 업체로부터 연구 자금을 지원받는 배경이 투명하게 공개되지 않았습니다.
- 이해관계 상충: 도박 산업의 영향을 받는 인물이 청소년 도박 예방 프로그램을 주도하는 것에 대한 우려가 제기되었습니다.
- 독립성 결여: 공중보건 전문가들은 도박 광고 전면 금지라는 실질적인 해결책 대신 효과가 불분명한 교육 프로그램만을 강조하는 배경에 의구심을 품고 있습니다.
정부 지원금을 노린 AI 슬롭 문서를 구별하는 법
앞으로 이와 유사한 사례가 반복될 가능성이 높기 때문에 정부와 관련 기관은 AI 슬롭 문서를 식별하는 엄격한 기준을 마련해야 합니다. 데이터의 진위 여부를 확인하는 과정은 더 이상 선택이 아닌 필수입니다.
- 참고 문헌의 실제 존재 여부 확인: 인용된 논문의 제목과 저자를 학술 데이터베이스에서 직접 검색하여 일치 여부를 대조해야 합니다.
- 하이퍼링크 검수: 보고서에 포함된 모든 외부 링크가 올바른 원문으로 연결되는지 확인하는 과정이 필요합니다.
- 데이터의 일관성 검토: 특정 기관의 보고서를 인용했다면 해당 기관의 공식 입장과 일치하는지 교차 검증을 수행해야 합니다.
데이비드 포콕 의원이 제기한 도박 광고 금지의 필요성
이번 사건을 폭로한 포콕 상원의원은 근거 없는 교육 프로그램에 예산을 투입하기보다 도박 광고를 전면적으로 금지하는 것이 청소년을 보호하는 가장 확실한 방법이라고 주장했습니다. 그는 정부가 수년 전 제출된 도박 개혁 보고서에 대해 여전히 응답하지 않고 있는 상황에서 이러한 부실한 보고서가 로비 수단으로 쓰이는 현실을 비판했습니다.
공공 정책의 신뢰를 무너뜨리는 AI 슬롭의 경계
마치며 이번 시드니 대학교 연구소의 사례는 인공지능 기술이 학술적 엄밀성과 결합하지 못했을 때 어떤 참사를 불러올 수 있는지 잘 보여줍니다. 2000만 달러라는 거액의 예산을 요구하면서 AI가 만들어낸 허구의 자료를 제출한 것은 학문적 태만을 넘어 공적 시스템에 대한 도전이라 할 수 있습니다. 앞으로 우리 사회가 AI를 활용한 자료를 접할 때 더욱 비판적인 시각을 가져야 하며 특히 정책적 결정을 앞둔 시점에서는 데이터의 근거를 철저히 검증하는 문화가 정착되어야 할 것입니다.
이어서 보면 좋은 글
#AI슬롭 #시드니대학교 #도박예방교육 #가짜연구결과 #AI환각 #DavidPocock #호주정치 #공중보건 #데이터검증 #연구윤리