현대 디지털 세상에서 신뢰 실행 환경(TEE)은 데이터 보호의 핵심 기술로 자리 잡았어요. 하지만 최근 ‘TEE.fail’ 같은 물리적 공격들이 인텔, AMD, 엔비디아 등 주요 칩 제조업체의 TEE 보안을 무력화하며 안전한 데이터 보호에 대한 심각한 의문을 제기하고 있답니다. 과연 TEE는 우리가 믿었던 만큼 안전할까요? 이 글에서 그 진실과 함께 물리적 공격의 위험성을 자세히 파헤쳐 볼게요.
신뢰 실행 환경(TEE)이란 무엇이며 왜 중요한가요?
신뢰 실행 환경, 즉 TEE는 운영체제(OS) 커널이 완전히 손상되더라도 기밀 데이터와 민감한 컴퓨팅 작업을 외부로부터 안전하게 보호하는 하드웨어 기반의 보안 영역을 말해요. 엔비디아의 Confidential Compute, AMD의 SEV-SNP, 인텔의 SGX 및 TDX가 대표적인 TEE 기술들이죠. 이 기술들은 블록체인 아키텍처, 클라우드 서비스, AI, 금융, 국방 등 광범위한 산업에서 데이터 무결성과 기밀성을 보장하는 데 필수적인 역할을 해왔어요. 중요한 데이터가 해커나 악성 소프트웨어로부터 노출되거나 조작되는 것을 막아주기 때문에 그 중요성은 아무리 강조해도 지나치지 않답니다.
최신 물리적 공격 ‘TEE.fail’의 충격적인 진실
최근 TEE의 견고함에 도전장을 내민 ‘TEE.fail’이라는 새로운 물리적 공격이 등장했어요. 이 공격은 지난달에 보고된 Battering RAM, Wiretap 공격에 이어 최신 DDR5 메모리까지 효과적으로 공략하는 방법을 보여주었는데요. TEE.fail 공격은 매우 저렴하고 간단한 하드웨어를 메모리 칩과 마더보드 슬롯 사이에 배치한 후 운영체제 커널을 침해하는 방식으로 작동해요. 단 3분 만에 엔비디아 Confidential Compute, AMD SEV-SNP, 인텔 TDX/SGX의 TEE 보안을 무력화할 수 있다고 하니 정말 충격적이죠. 일단 공격이 성공하면, TEE 내부에 있어야 할 기밀 데이터가 노출되거나 실행 코드가 조작될 수 있어 더 이상 안전한 데이터 보호를 기대하기 어렵게 됩니다.
칩 제조업체와 클라우드 서비스의 오해와 해명
흥미롭게도, 칩 제조업체들은 TEE의 위협 모델에서 물리적 공격을 제외하고 있어요. 그들은 커널 OS가 손상되어도 데이터를 보호할 수 있다고만 명시하고, 물리적 접근에 대한 보호는 보장하지 않는다는 입장이죠. 하지만 클라우드 제공업체, AI 엔진, 블록체인 플랫폼 등 TEE를 사용하는 많은 기업들은 이를 명확하게 밝히지 않거나, 심지어 물리적 공격에도 안전하다고 잘못된 정보를 전달하는 경우가 많았답니다. 메타, 클라우드플레어, 마이크로소프트, 시그널 등 유수의 기업들조차 TEE의 보호 범위를 오해하거나 모호하게 설명한 사례가 발견되었어요. 이는 고객들이 TEE가 제공하는 실제 보안 취약점 수준을 제대로 이해하기 어렵게 만들며, 불필요한 위험에 노출될 수 있다는 우려를 낳고 있습니다.
결정론적 암호화: TEE 보안의 근본적인 약점
이러한 물리적 공격이 성공하는 근본적인 원인 중 하나는 ‘결정론적 암호화’의 사용에 있어요. 결정론적 암호화는 동일한 평문과 키로 암호화할 때 항상 동일한 암호문이 생성되는 방식인데요. TEE.fail 공격자는 이 특성을 이용하여 암호문 문자열을 복사하고 이를 재생 공격에 활용할 수 있다고 해요. 반면 ‘확률적 암호화’는 동일한 평문이라도 매번 다른 암호문을 생성하기 때문에 이러한 재생 공격에 훨씬 더 강력하게 저항할 수 있답니다.
초기 SGX는 소량의 RAM(256MB)만 암호화했기 때문에 강력한 확률적 암호화를 사용할 수 있었지만, 서버 칩용 TEE는 수 테라바이트에 달하는 RAM을 암호화해야 하므로 성능 저하 문제로 결정론적 암호화를 택할 수밖에 없었던 것이죠. 이 결정론적 암호화의 한계가 인텔, AMD, 엔비디아의 최신 TEE를 포함한 모든 TEE의 보안 취약점으로 작용한 것입니다.
실제 산업 현장에서의 위협과 영향은?
TEE.fail 공격은 실제 운영 중인 서비스에도 심각한 위협이 될 수 있음을 보여주었어요. 예를 들어, 이더리움 블록 빌더 네트워크인 BuilderNet에서는 악성 운영자가 TEE.fail을 통해 인증 키를 획득하여 기밀 거래 정보를 해독하고 이더리움 지갑에 접근할 수 있음이 시연되었죠. 또한, 엔비디아 Confidential Compute를 사용하는 dstack에서는 공격자가 인증을 위조하여 GPU 소유권을 속일 수 있었고, 비밀스러운 거래를 보호하는 블록체인 플랫폼인 Secret Network에서는 주요 네트워크 비공개 키인 ‘합의 시드’를 추출할 수 있었습니다.
이러한 사례들은 TEE가 단순히 하드웨어에 내장되어 있다고 해서 모든 위협으로부터 안전한 데이터를 보장하지 않는다는 사실을 명확하게 보여주고 있어요. 많은 기업들이 TEE의 약점을 제대로 인지하지 못하고 잘못된 보안 기대치를 가지고 있을 가능성도 크답니다.
TEE 보안, 앞으로 어떤 방향으로 나아가야 할까요?
현재로서는 TEE.fail, Wiretap, Battering RAM과 같은 물리적 공격에 대한 완벽한 해결책은 없는 상황이에요. 단기적으로는 TEE 사용자들이 그 한계를 명확히 이해하고, 칩 제조업체가 보장하지 않는 용도로 TEE를 사용하지 않도록 주의하는 것이 가장 중요하답니다. Secret Network처럼 네트워크에 참여하는 운영자들의 요구 사항을 강화하는 등의 노력이 필요하죠.
기술적인 해결책으로는 각 암호문 블록에 충분한 엔트로피를 추가하여 암호문 반복을 방지하거나, 인증 메커니즘에 위치 확인 기능을 추가하는 방안이 제안되고 있어요. 장기적으로는 AWS의 Nitro Card나 Google의 Titanium처럼 자체적인 맞춤형 하드웨어를 통해 TEE 보안을 강화하는 방식이 거론되지만, 이는 높은 비용을 수반한답니다. 결국, TEE는 매우 어려운 보안 문제에 대한 임시방편적인 해결책일 수 있으며, 공격자에게 물리적 접근 권한이 있을 경우 그 취약성이 매우 크다는 점을 명심해야 합니다. 여러분은 이러한 TEE의 한계에 대해 어떻게 생각하시나요?
같이 보면 좋은 글
- 20세 대학 중퇴생이 만든 AI 노트 앱, 5개월 만에 500만 사용자 돌파
- [매일 등산 182일차] 설악산 등반 전 체력 점검 – 등산 다이어트 챌린지 (불곡산 2024-10-11)