인공지능 기술이 국방의 핵심으로 떠오른 지금 인공지능 업계의 거두인 Anthropic이 미국 국방부의 최후통첩을 단칼에 거절했습니다. 펜타곤이 제시한 무제한 접근 권한 요구에 대해 끝까지 소신을 지킨 배경에는 기술적 신뢰도와 윤리적 가치라는 명확한 기준이 있었습니다. 이번 결정은 단순한 계약 거부를 넘어 민주주의 국가에서 AI가 나아가야 할 방향을 제시하고 있습니다.
Anthropic 최후통첩 거부한 긴박한 상황
미국 국방부는 최근 Anthropic을 포함한 주요 AI 개발사들에 군사적 활용을 위한 무제한적 기술 접근권을 요구했습니다. 피트 헤그세스 국방장관은 기존의 모든 군사 계약을 재협상하겠다는 의지를 보이며 강한 압박을 가했습니다. 특히 Anthropic의 CEO 다리오 아모데이에게는 금요일 업무 종료 시간까지 답변을 내놓으라는 사실상의 최후통첩을 보낸 것으로 알려졌습니다.
Anthropic은 이 마감 시한을 불과 24시간도 남겨두지 않은 시점에 공식적으로 거절 의사를 밝혔습니다. 이는 이미 국방부의 새로운 조건에 합의한 것으로 알려진 OpenAI나 xAI와는 정반대의 행보입니다. 아모데이 대표는 백악관으로 소환되어 국방장관과 직접 대면하는 압박 속에서도 회사의 핵심 원칙을 굽히지 않았습니다.
펜타곤이 요구한 독소 조항은 무엇인가
국방부가 요구한 새로운 계약 조건의 핵심은 AI 모델에 대한 통제권을 군이 온전히 갖는 것이었습니다. 기존 계약에서는 AI 기업들이 설정한 안전 가이드라인이나 사용 제한 규정이 존재했지만 국방부는 이를 무력화하고 실전에서 제약 없이 기술을 활용하길 원했습니다. Anthropic은 이러한 요구가 수용될 경우 발생할 수 있는 부작용을 경계했습니다.
구체적으로 Anthropic이 우려한 지점은 크게 두 가지입니다.
- 미국인에 대한 대규모 감시 활동에 기술이 오용될 가능성
- 인간의 개입이 완전히 배제된 자율 살상 무기 체계로의 발전
이러한 기능들은 민주주의 가치를 수호하기보다 오히려 훼손할 위험이 크다는 판단을 내린 것입니다. Anthropic은 인공지능이 독재 국가의 무기로 활용되는 것을 막아야 한다는 점에는 동의하지만 자국의 기술이 잘못된 방향으로 쓰이는 것 역시 묵인할 수 없다는 입장을 고수했습니다.
대량 감시와 자율 살상 무기를 거부하는 법
Anthropic이 설정한 레드라인은 매우 구체적입니다. 이들은 현재의 프론티어 AI 시스템이 완전 자율형 무기를 구동할 만큼 충분히 신뢰할 수 없다고 단언했습니다. 기술적 완성도가 담보되지 않은 상태에서 생사 결정권을 기계에 맡기는 것은 국가 안보에 오히려 위협이 될 수 있다는 논리입니다.
물론 Anthropic이 모든 군사적 협력을 거부하는 것은 아닙니다.
- 민주주의 방어를 위한 부분적 자율 무기 체계 활용
- 정보 기관의 분석 업무 지원
- 적대 세력의 공격에 대비한 방어적 AI 배치
위와 같은 영역에서는 적극적으로 협력하겠다는 뜻을 분명히 했습니다. 하지만 통제되지 않는 살상 권한이나 시민의 사생활을 침해하는 광범위한 감시망 구축에는 결코 동참할 수 없다는 점이 이번 거절의 핵심입니다.
Dario Amodei 대표가 밝힌 민주주의 가치
다리오 아모데이 대표는 성명을 통해 AI가 미국과 우호 국가들을 방어하고 전제주의 적대 세력을 물리치는 데 필수적이라는 점을 깊이 신뢰한다고 밝혔습니다. 실제로 Anthropic은 그동안 국방부 및 정보 커뮤니티와 긴밀하게 협력하며 모델을 배포해 왔습니다. 특정 군사 작전에 대해 이의를 제기하거나 임의로 기술 사용을 제한한 적도 없었습니다.
하지만 그는 좁은 범위의 특정 사례들에서 AI가 민주적 가치를 방어하기보다 약화할 수 있다고 지적했습니다. 현재의 AI 모델은 인간의 감독 없이 살상 결정을 내릴 만큼 안정적이지 않으며 이러한 불완전한 기술을 무분별하게 군사화하는 것은 위험하다는 분석입니다. 이는 기술 기업으로서의 책임감과 국가 안보 사이의 균형을 찾으려는 고뇌 섞인 결단으로 풀이됩니다.
공급망 리스크 지정 위협에도 굴하지 않은 배경
국방부는 Anthropic의 거부 움직임이 감지되자 강경한 대응을 예고했습니다. 주요 국방 계약업체들에게 Claude 모델에 대한 의존도를 조사하라고 지시했는데 이는 사실상 Anthropic을 공급망 리스크 기업으로 지정하겠다는 위협이나 다름없습니다. 보통 이러한 분류는 국가 안보에 위협이 되는 외국 기업에 적용되는 조치입니다.
심지어 국방물자생산법을 발동하여 강제로 기술을 징발하는 방안까지 검토된 것으로 알려졌습니다. 그럼에도 불구하고 Anthropic은 다음과 같은 대응책을 마련하며 배수진을 쳤습니다.
- 국방부가 Anthropic과의 협력을 중단하기로 결정할 경우 다른 제공업체로의 원활한 전환을 지원
- 군사 계획 및 작전에 차질이 없도록 기존 모델을 제안된 범위 내에서 최대한 제공
- 양심에 어긋나는 무제한적 요구에는 응하지 않겠다는 입장 재확인
정부의 강력한 압박과 막대한 경제적 손실 가능성 앞에서도 기업의 철학을 우선순위에 둔 셈입니다.
향후 국방 AI 시장에 미칠 파급력은?
이번 사태는 향후 정부와 빅테크 기업 간의 협력 모델에 중대한 분기점이 될 전망입니다. OpenAI와 xAI가 정부의 요구를 수용한 상황에서 Anthropic의 독자적인 행보가 어떤 결과로 이어질지 업계의 이목이 쏠리고 있습니다. 만약 Anthropic이 국방 사업에서 완전히 배제된다면 이는 다른 AI 기업들에게 강력한 경고 메시지가 될 수 있습니다.
반대로 Anthropic의 소신이 대중의 지지를 얻고 기술적 신뢰성을 인정받는다면 AI 윤리 기준이 국방 계약의 필수 조건으로 자리 잡는 계기가 될 수도 있습니다. 결국 AI 기술이 인간의 생명을 다루는 영역에서 어디까지 허용되어야 하는지에 대한 사회적 합의가 시급한 시점입니다.
마치며
Anthropic의 이번 결정은 단순히 정부 요구에 반기를 든 것이 아니라 인공지능이 인간의 통제를 벗어나 무기화되는 것에 대한 실존적 고민을 담고 있습니다. 기술의 힘이 커질수록 그에 따르는 윤리적 책임 또한 무거워진다는 사실을 다시 한번 일깨워준 사례입니다. 앞으로 우리 사회가 이 강력한 도구를 안전하게 관리하면서도 국가의 안녕을 지킬 수 있는 지혜로운 합의점을 찾아가길 기대해 봅니다.
출처: https://www.theverge.com/news/885773/anthropic-department-of-defense-dod-pentagon-refusal-terms-hegseth-dario-amodei
이어서 보면 좋은 글
#Anthropic #Pentagon #인공지능윤리 #클로드 #국방AI #자율살상무기 #대량감시 #다리오아모데이 #AI전쟁 #테크뉴스