캘리포니아 주가 새로운 AI 법안인 투명한 프런티어 인공지능 법을 통과시키면서 AI 산업계와 규제 당국 간의 뜨거운 논쟁이 다시 불붙고 있어요. 특히 빅테크 기업들이 로비를 통해 AI 안전 규제의 방향을 어떻게 바꾸었는지, 그리고 이 변화가 어떤 의미를 가지는지 많은 분들이 궁금해하실 거예요. 이번 법안은 AI 기업들에게 특정 안전 조치 대신 ‘투명한 정보 공개’를 요구하며, 전 세계 AI 규제 환경에 큰 영향을 미칠 전망이랍니다.
1. 새로운 캘리포니아 AI 법, 무엇이 달라졌나요?
캘리포니아 주지사 개빈 뉴섬은 최근 투명한 프런티어 인공지능 법(Transparency in Frontier Artificial Intelligence Act)에 서명했어요. 이 법은 연간 매출 5억 달러 이상의 AI 기업들에게 웹사이트에 안전 프로토콜을 게시하고, 사고 발생 시 주 정부에 보고하도록 의무화하고 있답니다. 하지만 작년에 뉴섬 주지사가 거부했던 법안 SB 1047과는 큰 차이가 있어요.
새로운 법안인 SB 53은 AI 시스템에 대한 의무적인 안전 테스트나 소위 ‘킬 스위치’를 요구하는 대신, 기업들이 국가 및 국제 표준, 업계 모범 사례를 AI 개발에 어떻게 통합하는지 설명하도록 요구하고 있죠. 뉴섬 주지사는 “캘리포니아는 AI 산업이 계속 번창하면서도 지역사회를 보호하는 규제를 수립할 수 있음을 증명했다”고 말했지만, 실제 보호 조치는 기본적인 보고 의무를 넘어선 부분에서는 자발적인 부분이 많다는 지적이 나와요.
2. 킬 스위치 없는 투명성 규제, 그 배경은?
기존에 거부된 SB 1047 법안은 AI 시스템에 대한 강제적인 안전 테스트와 잠재적 위험을 통제할 킬 스위치를 의무화하려고 했어요. 이는 AI 안전 옹호자들이 AI의 실존적 위협에 대한 우려를 바탕으로 마련한 것이었죠. 하지만 새로운 법인 SB 53은 이러한 강력한 규제 대신 ‘정보 공개’에 초점을 맞추고 있어요.
기업들은 ‘잠재적 심각 안전 사고’를 캘리포니아 비상 서비스국에 보고해야 하며, 내부 고발자 보호 조치도 포함하고 있어요. 여기서 ‘대재앙적 위험’은 50명 이상의 사망자 또는 10억 달러 이상의 피해를 유발할 수 있는 사건으로 매우 좁게 정의되어 있답니다. 규제 당국은 규제 미준수 시 최대 100만 달러의 벌금을 부과할 수 있지만, 핵심은 ‘투명한 공개’이지 ‘강제적인 안전 조치’는 아니라는 점이에요.
3. 빅테크의 로비, 규제 방향을 바꾸다
SB 1047이 무산되고 SB 53이 통과되기까지 지난 1년간 빅테크 기업들의 치열한 로비 활동이 있었습니다. 뉴욕타임스에 따르면, 메타(Meta)와 벤처 캐피털 회사 안드레센 호로위츠(Andreessen Horowitz)는 AI 산업에 친화적인 정치인들을 지원하기 위해 두 개의 슈퍼 PAC에 최대 2억 달러를 약속했어요. 이들 기업은 주 차원의 AI 규제보다 연방 차원의 법안을 선호하며 주 정부의 규제 노력을 무력화하려 했죠.
AI 기업들은 SB 1047의 요구 사항이 너무 모호하고 보고 부담이 과도하다고 주장하며 반발했답니다. 결국 뉴섬 주지사가 소집한 AI 전문가들의 권고를 바탕으로 새로운 법안이 마련되었는데, 이는 주요 AI 기업들이 이미 시행하고 있는 수준의 투명성 요구 사항에 가깝다는 평가가 많아요. 따라서 실제적인 AI 안전 위험을 막는 데는 제한적인 보호만 제공할 수 있다는 우려도 제기되고 있습니다.
4. AI 안전과 책임: 기업 자율에 대한 논란
새로운 캘리포니아 AI 법은 기업의 자율적인 공개와 자발적인 모범 사례 적용에 상당 부분을 의존하고 있어요. 이는 AI 안전에 대한 책임을 기업 스스로에게 맡기는 것과 다름없다는 비판도 존재합니다. 앤스로픽(Anthropic)의 공동 설립자 잭 클라크(Jack Clark)는 이 법안의 안전장치를 “실용적”이라고 평가했지만, 강제적인 집행 메커니즘이나 구체적인 표준 없이 정보 공개만으로는 잠재적 AI 위험으로부터 충분한 보호를 기대하기 어렵다는 목소리도 높아요.
캘리포니아는 전 세계 상위 50개 AI 기업 중 32개를 보유하고 있으며, 지난해 전 세계 AI 및 머신러닝 스타트업 벤처 캐피털 투자의 절반 이상이 베이 지역 회사로 흘러 들어갔답니다. 이처럼 AI 산업의 중심지에서 주 차원의 AI 규제가 전 세계적인 선례가 될 수밖에 없는 만큼, 앞으로 이 법이 어떤 영향을 미 미칠지 지속적인 관심이 필요해요.
5. 캘리포니아 AI 정책의 글로벌 파급 효과
캘리포니아에서 벌어지는 AI 정책 논의는 단순한 주 차원의 문제를 넘어섭니다. 세계 AI 산업의 심장부에서 제정된 법안은 입법 선례뿐만 아니라, 전 세계적으로 사용되는 AI 시스템을 개발하는 기업들에 직접적인 영향을 미치기 때문이에요. SB 53은 비록 SB 1047보다 완화된 형태이지만, AI 기업들에게 투명성을 요구하는 첫걸음이라는 점에서 의미를 가질 수 있습니다.
또한, 이 법안은 CalCompute라는 컨소시엄을 설립하여 공공 컴퓨팅 클러스터 프레임워크를 개발하는 내용을 포함하고 있어요. 이는 주 정부가 AI 인프라 개발에도 적극적으로 관여하겠다는 의지를 보여주는 것이죠. 캘리포니아 기술부는 매년 법안에 대한 업데이트를 권고할 예정이지만, 이러한 권고가 반드시 입법 조치로 이어지는 것은 아니기에, 앞으로 AI 규제의 실효성을 높이기 위한 노력이 계속될 것으로 보여요.
새로운 캘리포니아 AI 법은 빅테크 기업들의 로비와 AI 안전에 대한 우려 사이에서 타협점을 찾으려는 시도라고 볼 수 있어요. 여러분은 이 법안이 AI의 잠재적 위험으로부터 우리를 보호하기에 충분하다고 생각하시나요? 아니면 더 강력한 규제가 필요하다고 보시나요? 댓글로 여러분의 의견을 들려주세요!