인공지능 기술의 발전 속도는 눈부시지만, 그만큼 안전에 대한 우려도 커지고 있어요. 특히 강력한 AI 시스템은 국가 및 세계 안보를 위협할 수 있다는 목소리가 높아지고 있죠. 최근 영국 의원 100명 이상이 AI 시스템에 대한 구속력 있는 규제 도입을 촉구하며 이러한 논의에 불을 지폈습니다. 지금 왜 AI 규제가 시급한지, 그리고 어떤 움직임이 있는지 함께 살펴볼게요.
영국 의원들이 AI 시스템 규제를 강력히 촉구하는 진짜 이유는?
최근 영국에서는 100명이 넘는 의원들이 가장 강력한 AI 시스템에 대한 구속력 있는 규제를 도입해야 한다고 정부에 목소리를 높이고 있어요. 이는 인공지능 기술의 폭발적인 발전 속도에 비해 정부의 대응이 너무 느리고, 거대 기술 업계의 끊임없는 로비 때문에 안전장치 마련이 지연되고 있다는 광범위한 우려 때문이죠. 이들 의원은 초지능 AI가 ‘국가 및 세계 안보를 근본적으로 위협할 수 있다’는 점을 가장 심각한 이유로 꼽으며, 현재의 무방비 상태가 매우 위험하다고 경고합니다.
이러한 규제 강화 움직임은 ‘Control AI’라는 비영리 단체가 주도하고 있으며, 스카이프의 공동 창업자인 잔 탈린 같은 세계적인 유명 인사들이 강력히 후원하고 있어요. 그들은 AI 규제에 소극적인 미국 백악관의 입장과 별개로, 영국이 국제사회에서 독자적인 리더십을 발휘하며 규제를 선도해야 한다고 주장합니다. AI 분야의 ‘대부’로 불리는 요슈아 벤지오 교수가 “AI는 샌드위치보다 규제가 덜하다”고 비유할 만큼, 현재 AI 분야의 법적, 윤리적 규제 공백은 매우 심각한 수준이라는 게 이들의 공통된 의견이더라고요. 더 이상 미룰 수 없는 인류의 중요한 과제라는 인식이 확산되고 있습니다.
인공지능, 핵무기만큼 위험하다고? 전문가들은 왜 우려할까요?
전 영국 국방부 장관 데스 브라운 경은 초지능 AI를 ‘우리가 핵무기를 개발한 이래 가장 위험한 기술 발전’이라고 직설적으로 경고했어요. 그는 국가 간의 무모한 AI 개발 경쟁이 결국 모두를 위험에 빠뜨릴 수 있다며, 전 세계적인 차원의 국제적인 협력이 필수적이라고 강조했습니다. 그의 말처럼 AI는 인류에게 전례 없는 기회와 함께 인류의 존재 자체를 위협할 수 있는 상상하기 어려운 위협을 동시에 안겨줄 수 있다는 점이 정말 두렵게 다가왔어요.
전 영국 환경부 장관 잭 골드스미스 경 역시 AI 분야의 “매우 중요하고 선임급 인사들이 끊임없이 경고음을 울리고 있음에도, 각국 정부는 AI 기업들보다 훨씬 뒤처져 있으며, 사실상 아무런 규제 없이 개발을 추진하도록 방치하고 있다”고 신랄하게 비판했습니다. 실리콘밸리의 선도적인 AI 과학자 중 한 명인 엔트로픽의 재러드 카플란은 가디언과의 인터뷰에서 인류가 “2030년까지 AI 시스템이 스스로 더욱 강력해지도록 훈련시키는 ‘궁극적인 위험’을 감수할지 결정해야 할 것”이라고 말해 사회에 큰 충격을 주기도 했죠. 이처럼 저명한 전문가들의 잇따른 경고들은 AI 시스템 규제가 더 이상 미룰 수 없는 시급한 문제라는 것을 분명히 알려주고 있습니다.
AI 규제, 영국은 무엇을 시도했고, 왜 더딘가요?
영국은 2023년 블레츨리 파크에서 AI 안전 정상회의를 개최하며, 가장 발전된 AI 시스템으로부터 “심각하고 심지어 치명적인 해악 가능성, 의도적이든 비의도적이든”이 존재함을 공식적으로 인정했어요. 이 회의를 통해 국제적으로 존경받는 기관으로 성장한 AI 보안 연구소도 설립되었죠. 하지만 정상회의에서 강조했던 국제 협력을 통한 위험 대응에는 상대적으로 덜 집중했다는 평가를 받고 있어요.
영국 노동당은 2024년 7월에 가장 강력한 인공지능 모델 개발자들에게 의무를 부과하는 법안을 입법하겠다고 약속했지만, 현재까지 어떠한 법안도 공식적으로 발표되지 않고 있습니다. 이는 주로 미국 기업들이 주도하는 상업적 AI 개발을 저해하지 말라는 미국 백악관의 강력한 압력 때문이라는 지적이 나오고 있어요. 반면 과학혁신기술부 대변인은 “영국에서는 이미 다양한 기존 규칙으로 AI가 규제되고 있다”며 규제 미비론에 선을 그었습니다. 이러한 정부와 의원들 간의 입장 차이와 국제적인 이해관계가 복잡하게 얽히면서, AI 시스템 규제의 속도가 예상보다 더디게 진행되는 주요 요인 중 하나인 것 같더라고요.
AI 시스템 개발, 정말 규제 없이 이대로 괜찮을까요?
옥스퍼드 주교 스티븐 크로프트는 ‘Control AI’ 캠페인을 적극적으로 지지하며, 공공 부문의 AI 사용을 감시할 독립적인 AI 감시 기구 설립과 AI 기업의 새로운 모델 출시 전 최소 테스트 표준 준수를 강력히 요구했어요. 그는 “정부가 예방 원칙을 채택하지 않은 것 같다”며, 어린이와 성인의 정신 건강 문제, 막대한 환경 비용, 그리고 일반화된 AI가 인류에게 ‘무엇이 좋은가’와 같은 근본적인 질문에 대한 정렬 문제 등 “현재 심각한 위험들이 산재해 있다”고 경고했습니다.
리시 수낙 총리 시절 영국 최초 AI 장관이었던 조나단 베리 역시 실존적 위험을 초래할 수 있는 모델에 대해 구속력 있는 글로벌 규제를 적용해야 할 때가 왔다고 강조했어요. 그는 AI 모델이 특정 수준의 강력한 성능에 도달하면 개발자들이 반드시 테스트를 거치고, ‘오프 스위치’를 설계하며, 문제가 발생 시 재훈련이 가능하도록 해야 한다는 구체적인 방안까지 제시했습니다. 최근 챗봇이 사용자에게 자살을 부추기거나, 사람들이 이를 치료사로 이용하고 심지어 신으로 믿는 등의 충격적인 사례들은 AI가 가져올 수 있는 위험이 얼마나 심각하고 예측 불가능한지 다시 한번 깨닫게 해주었어요. 이러한 상황을 보면 현행 규제만으로는 부족하다는 목소리에 힘이 실릴 수밖에 없습니다.
미래의 AI 안전을 위한 국제적인 노력, 어떻게 이루어져야 할까요?
전 환경부 장관 잭 골드스미스 경은 영국이 “우리가 무엇을 다루고 있는지, 그리고 어떻게 통제할 수 있는지 명확히 알 때까지 초지능 AI 개발을 금지하는 국제 협약을 주도하여 AI 보안 분야에서 글로벌 리더십을 회복해야 한다”고 주장했어요. 이는 단순히 자국의 이익을 넘어 인류 전체의 미래를 위한 비전 제시로 해석될 수 있습니다.
‘Control AI’의 CEO 안드레아 미오티는 현재 정부의 “소극적인 접근 방식”을 강하게 비판하며, “영국과 미국의 AI 기업들이 규제가 시기상조이며 혁신을 저해할 것이라고 주장하며 정부에 로비를 많이 하고 있다”고 폭로했습니다. 그는 심지어 “이들 중 일부는 AI가 인류를 파괴할 수 있다고 스스로 말하는 바로 그 회사들”이라고 지적하며, 이러한 이중적인 태도를 꼬집었어요. AI 기술 발전 속도가 상상 이상으로 빠르다는 점을 고려할 때, 1~2년 이내에 의무적인 국제 표준이 시급히 마련되어야 한다고 그는 강조합니다. 국제적인 차원에서의 긴밀한 협력과 공동의 규제 프레임워크 구축은 AI가 인류에게 미칠 긍정적인 영향을 극대화하고 부정적인 위험을 최소화하는 핵심 열쇠가 될 거예요. 그렇지 않으면 무한 경쟁 속에서 예상치 못한 위험에 직면할 수도 있습니다.
마무리
AI 기술의 발전은 인류에게 놀라운 가능성을 열어주지만, 동시에 통제되지 않을 때 발생할 수 있는 잠재적 위험도 커요. 영국 의원들의 강력한 AI 시스템 규제 촉구는 이러한 위협에 대한 경고등이며, 지금 우리가 무엇을 해야 할지 분명히 보여줍니다. 우리 모두가 AI의 긍정적인 면을 누리면서도, 그 위험을 최소화할 수 있도록 AI 시스템 규제 논의에 관심을 가져야 할 때입니다.
같이 보면 좋은 글
#AI규제 #인공지능안전 #영국AI #기술규제 #AI위험성 #초지능AI #국제협력 #AI윤리 #미래기술 #정부정책