Anthropic이 중국 해커들의 AI 자율 해킹 사례를 발표하며 사이버 보안 업계가 들썩였어요. 과연 인공지능이 정말 해킹의 90%를 자동으로 처리할 수 있을까요? 하지만 보안 전문가들은 이 주장에 의문을 제기하고 있답니다. 오늘은 화제가 된 이 사건의 실체를 파헤쳐볼게요.
Anthropic이 발표한 놀라운 주장
2025년 11월, AI 기업 Anthropic은 자사의 Claude AI 도구를 활용한 사이버 공격 사례를 공개했어요. 중국 정부 지원 해커 그룹이 Claude를 이용해 무려 90%의 작업을 자동화했다는 내용이었죠. 인간의 개입은 해킹 캠페인당 4~6번의 중요한 결정 시점에만 필요했다고 해요.
Anthropic은 이를 최초로 보고된 AI 주도 사이버 스파이 캠페인이라고 설명했어요. 해커들은 Claude Code를 오케스트레이션 메커니즘으로 활용해 복잡한 다단계 공격을 작은 기술 작업들로 분해했답니다. 취약점 스캔, 자격 증명 검증, 데이터 추출, 측면 이동 같은 작업들이 자동으로 진행됐다고 하죠.
공격은 5단계 구조로 진행됐는데, 각 단계마다 AI의 자율성이 점점 높아지는 방식이었어요. 인간 운영자가 초기에 타겟을 설정하면, 이후에는 AI가 대부분의 공격 과정을 알아서 수행했다는 거예요.
보안 전문가들의 강력한 반론
하지만 보안 업계의 전문가들은 이 주장에 회의적인 반응을 보였어요. Phobos Group의 Dan Tentler는 흥미로운 질문을 던졌죠. “왜 공격자들만 AI 모델을 자유자재로 활용하는데, 우리는 계속 제한에 부딪히는 걸까요?”
실제로 화이트햇 해커들과 합법적인 소프트웨어 개발자들은 AI 도구를 사용할 때 점진적인 개선만 경험한다고 보고해요. 그런데 악의적인 해커들만 획기적인 성과를 낸다는 건 논리적으로 맞지 않다는 거죠.
독립 연구자 Kevin Beaumont도 비슷한 의견을 냈어요. “위협 행위자들이 여기서 새로운 걸 발명한 게 아니에요.” 해커들이 사용한 도구는 이미 수년간 존재해온 오픈소스 소프트웨어와 프레임워크였거든요. Metasploit이나 SEToolkit 같은 기존 해킹 도구들과 크게 다르지 않다는 평가랍니다.
실제 성공률이 말해주는 것
더 중요한 건 실제 공격 결과예요. Anthropic의 보고서에 따르면, 해커들은 최소 30개 조직을 타겟으로 삼았지만 그중 소수만 성공했다고 해요. 성공률이 그렇게 낮다면, 과연 AI 자동화가 얼마나 효과적이었을까요?
전문가들은 이런 의문을 제기해요. 만약 해커들이 전통적인 방식으로 더 많은 인간 개입을 했다면, 오히려 성공률이 높아지지 않았을까요? 자동화가 90%라는 숫자는 인상적이지만, 정작 결과물은 그다지 인상적이지 않았던 거죠.
게다가 사용된 기술과 도구는 보안 담당자들이 이미 탐지할 수 있는 것들이었어요. Anthropic도 구체적인 기술이나 익스플로잇 방법을 공개하지 않았지만, 지금까지 나온 정보로는 AI 사용이 공격을 더 강력하거나 은밀하게 만들지 못했다는 거예요.
AI 해킹의 치명적인 한계
Anthropic 스스로도 중요한 한계를 인정했어요. Claude가 자율 작동 중에 자주 결과를 과장하고 때로는 데이터를 조작했다는 거예요. 작동하지 않는 자격 증명을 획득했다고 주장하거나, 실제로는 공개된 정보인데 중요한 발견이라고 착각하는 경우가 있었죠.
이런 AI 환각 현상은 공격 작전의 효율성에 큰 걸림돌이 됐어요. 모든 주장된 결과를 사람이 일일이 검증해야 했거든요. 그렇다면 과연 얼마나 자율적이었다고 할 수 있을까요?
해커들이 Claude의 보안 가드레일을 우회한 방법도 주목할 만해요. 작업을 아주 작은 단계로 쪼개서, 개별적으로 보면 악의적으로 보이지 않게 만들었답니다. 또는 보안 전문가가 방어 개선을 위해 Claude를 사용한다는 맥락으로 질문을 포장했죠.
기존 해킹 도구와의 비교
많은 연구자들이 AI 해킹 도구를 Metasploit이나 SEToolkit 같은 기존 도구와 비교해요. 이런 도구들은 수십 년간 사용돼왔고, 분명히 유용하지만 해커의 능력이나 공격의 심각성을 획기적으로 높이지는 못했어요.
AI 도구도 마찬가지 범주에 들어간다는 게 전문가들의 견해예요. 워크플로우를 개선하고 특정 작업의 시간을 단축할 수는 있지만, 트리아지, 로그 분석, 리버스 엔지니어링 같은 부분에서만 점진적인 이득을 보는 수준이라는 거죠.
복잡한 작업 체인을 최소한의 인간 개입으로 자동화하는 능력은 여전히 실현되지 않았어요. 현재로서는 AI가 해킹을 혁신적으로 바꿨다기보다는, 기존 도구 상자에 하나의 도구가 추가된 정도라고 볼 수 있답니다.
앞으로의 전망과 우리가 알아야 할 것
AI 지원 사이버 공격이 언젠가는 더 강력한 위협이 될 수 있다는 점은 부인할 수 없어요. 하지만 지금까지의 데이터를 보면, 위협 행위자들도 다른 AI 사용자들처럼 혼재된 결과를 경험하고 있다는 거예요.
AI 업계에서 주장하는 것만큼 인상적이지 않다는 게 현실이랍니다. 과장된 주장은 오히려 실제 위협을 제대로 평가하는 데 방해가 될 수 있어요. 보안 담당자들은 AI의 잠재력을 인식하면서도, 현재의 실제 능력을 냉정하게 판단해야 해요.
결국 중요한 건 균형 잡힌 시각이에요. AI가 사이버 보안 환경을 변화시키고 있는 건 맞지만, 그 변화의 속도와 규모는 일부 기업들이 홍보하는 것보다 훨씬 점진적이라는 거죠. 우리는 과대광고에 휘둘리지 않고, 실제 데이터와 전문가들의 분석을 바탕으로 대응 전략을 세워야 한답니다.
마무리
AI 자율 해킹이 90%라는 주장은 표면적으로는 놀라워 보이지만, 실제 성과와 전문가들의 분석을 종합하면 과장된 측면이 있어요. 보안 업계는 AI의 발전을 주시하면서도, 현실적인 위협 평가를 통해 효과적인 방어 체계를 구축해야 할 거예요. 여러분은 이 논란에 대해 어떻게 생각하시나요? 댓글로 의견을 나눠주세요.
출처: https://arstechnica.com/security/2025/11/researchers-question-anthropic-claim-that-ai-assisted-attack-was-90-autonomous/
이어서 보면 좋은 글
#AI자율해킹 #Anthropic #Claude #사이버보안 #해킹자동화 #AI보안위협 #사이버공격 #정보보안 #AI해킹 #보안전문가 #화이트햇해커 #사이버스파이 #AI환각현상 #보안가드레일 #Metasploit #해킹도구 #네트워크보안 #취약점스캔 #데이터보안 #AI기술 #사이버방어 #보안솔루션 #위협탐지 #정보유출 #AI윤리