평범하게 집에서 업무를 보던 소프트웨어 엔지니어가 갑자기 들이닥친 경찰에 의해 수갑이 채워진 채 끌려갔습니다. 범죄 현장에서 무려 160km나 떨어진 곳에 살고 있던 이 남성이 체포된 이유는 황당하게도 안면 인식 기술 오류 때문이었습니다. 알고리즘이 쏜 화살이 엉뚱한 사람을 가리키면서 한 시민의 일상은 순식간에 무너졌습니다.
안면 인식 기술 오류 인종차별 논란이 끊이지 않는 이유
영국에서 발생한 이번 사건은 단순한 기계적 실수를 넘어 인공지능이 가진 치명적인 약점을 그대로 드러냈습니다. 26세의 소프트웨어 엔지니어 알비 초우드리는 자신의 집에서 100마일 떨어진 밀턴 케인즈에서 발생한 절도 사건의 용의자로 지목되었습니다. 경찰이 사용한 안면 인식 알고리즘이 그를 범인으로 지목했기 때문입니다.
조사 결과에 따르면 현재 영국 경찰이 사용하는 알고리즘은 유색인종에 대해 현저히 높은 오판율을 보이고 있습니다. 백인 얼굴에 대한 오판율은 0.04%에 불과하지만 흑인은 5.5% 그리고 아시아인은 4.0%에 달합니다. 이는 기술 자체가 특정 인종의 데이터를 충분히 학습하지 못했거나 식별 기준이 편향되어 있음을 의미합니다.
- 인종별 데이터 불균형 문제
- 알고리즘의 식별 기준 모호성
- 유색인종 대상 높은 오판율 통계
범죄 현장에서 100마일 떨어진 곳에서 체포된 기막힌 사연
초우드리는 체포 당시 경찰에게 자신이 해당 도시에 가본 적도 없으며 사건 발생 시각에 회의 중이었다는 증거를 제시했습니다. 하지만 경찰은 알고리즘의 판단을 우선시하며 그를 10시간 동안 유치장에 가두었습니다. 새벽 2시가 되어서야 풀려난 그는 정신적인 충격은 물론 직장 생활에서도 큰 지장을 받게 되었습니다.
CCTV에 찍힌 실제 범인은 초우드리보다 10살이나 어려 보였고 코의 모양이나 입술 두께도 확연히 달랐습니다. 유일하게 닮은 점은 갈색 피부와 곱슬머리뿐이었습니다. 인공지능이 인간의 세밀한 특징을 구분하지 못하고 단순한 인종적 특징만으로 사람을 매칭시킨 결과입니다.
안면 인식 기술 오류 줄이기 위해 우리가 확인해야 할 것
이러한 사고를 방지하기 위해서는 기술적 보완과 더불어 수사 기관의 신중한 태도가 필수적입니다. 안면 인식 결과는 확정적인 증거가 아니라 수사를 돕는 지능 정보로만 활용되어야 한다는 원칙이 지켜져야 합니다.
- 인간의 육안 확인 절차 강화
- 알고리즘의 투명성 확보 요구
- 잘못된 데이터 저장 및 활용 중단
초우드리의 사례처럼 한 번 시스템에 등록된 머그샷은 추후 다른 범죄의 잠재적 용의자로 식별될 위험을 높입니다. 그는 과거 대학 시절 공격을 당했을 때 찍힌 사진이 시스템에 남아 이번 사건의 발단이 되었다고 주장하며 경찰 시스템의 불투명한 데이터 관리 방식을 비판했습니다.
데이터 편향성이 만들어낸 가짜 범인 식별의 메커니즘
현재 영국 경찰이 사용하는 코그니텍(Cognitec) 알고리즘은 매달 약 25,000건의 검색을 수행합니다. 약 1,900만 장의 경찰 사진 데이터베이스와 대조 작업을 벌이는데 이 과정에서 발생하는 오류는 고스란히 시민의 피해로 돌아옵니다. 기계는 인간의 얼굴을 점과 선의 집합으로 파악하지만 그 과정에서 미세한 차이를 놓치는 경우가 많습니다.
특히 조명이나 각도에 따라 인공지능은 전혀 다른 사람을 동일인으로 판단하곤 합니다. 초우드리의 사례에서도 경찰은 나중에야 영상 속 인물과 그가 다르다는 것을 인정했습니다. 기계의 판단에 지나치게 의존한 수사관들의 안일함이 한 사람의 인권을 침해한 셈입니다.
디지털 감시 사회에서 억울한 피해를 방지하는 법
안면 인식 기술 오류 사태가 반복되면서 법적 대응의 필요성도 커지고 있습니다. 초우드리는 현재 경찰을 상대로 손해배상을 청구한 상태입니다. 전문가들은 인공지능 수사 도구가 도입될 때 반드시 독립적인 기관의 검증을 거쳐야 하며 오류 발생 시 즉각적인 구제 절차가 마련되어야 한다고 강조합니다.
시민들 역시 자신의 생체 정보가 어떻게 활용되는지 관심을 가져야 합니다. 실시간 안면 인식 카메라가 길거리에 설치되는 상황에서 누구나 알고리즘의 희생양이 될 수 있기 때문입니다. 기술은 인간을 돕는 도구여야지 인간을 심판하는 절대적인 기준이 되어서는 안 됩니다.
기술의 한계를 인정하고 인권을 보호하는 마무리
안면 인식 기술 오류 사건은 편리함 뒤에 숨겨진 차별과 감시의 위험성을 경고합니다. 초우드리는 이제 정부 기관 업무를 볼 때마다 체포 기록 때문에 의심을 사지 않을까 걱정하며 살아가고 있습니다. 인공지능이 고도화될수록 그 결과에 대한 인간의 책임감은 더욱 무거워져야 합니다. 우리가 기술의 발전을 환영하는 만큼 그 과정에서 소외되거나 상처받는 사람이 없는지 꼼꼼히 살피는 사회적 감수성이 필요한 시점입니다.
출처: https://www.theguardian.com/technology/2026/feb/25/facial-recognition-error-prompts-police-to-arrest-asian-man-for-burglary-100-miles-away
이어서 보면 좋은 글
#안면인식기술오류 #인공지능편향성 #디지털인권 #영국경찰 #안면인식부작용 #알고리즘오류 #IT트렌드 #테크뉴스 #프라이버시 #무고한체포