미국 비영리 단체 연합이 일론 머스크의 인공지능 기업 xAI가 개발한 그록을 정부 기관에서 퇴출하라고 강력히 요구했습니다. 성 착취물 생성과 국가 안보 위협 등 여러 결함이 드러나면서 그록(Grok) 연방 사용 금지 논의가 급물살을 타기 시작한 것입니다.
그록(Grok) 연방 사용 금지 요구가 거세진 배경은?
최근 테크크런치 보도에 따르면 퍼블릭 시티즌을 포함한 여러 시민단체가 연방 기관 내 그록 배포를 즉각 중단하라는 공개 서한을 보냈습니다. 특히 국방부와 같은 민감한 정보를 다루는 부처에서 이 챗봇을 사용하는 것이 부적절하다는 목소리가 높습니다.
지난 1년간 그록은 여러 차례 시스템 수준의 실패를 보여주며 우려를 샀습니다. 행정부의 인공지능 관련 행정 명령과 지침이 있음에도 불구하고 예산관리국이 아직 폐쇄 조치를 내리지 않은 점에 대해 시민 단체들은 강한 경고를 보내고 있습니다.
부적절한 이미지 생성과 시스템 결함 사례들
가장 큰 문제는 그록을 활용해 실존 여성이나 아동의 사진을 성적인 이미지로 변형하는 사례가 빈번해졌다는 점입니다. 보고에 따르면 시간당 수천 건의 동의 없는 음란물이 생성되어 엑스(X) 플랫폼을 통해 대량 유포되었습니다.
- 실존 인물을 대상으로 한 성적 딥페이크 대량 생성
- 아동 성적 학대물과 유사한 이미지 출력 가능성
- 필터링 시스템의 지속적인 무력화 발생
이런 현상은 작년 8월 도입된 스파이시 모드 이후 더욱 심각해졌습니다. 전문가들은 그록이 기본적인 안전 가이드라인조차 준수하지 못하는 불안정한 모델이라고 지적합니다.
국가 안보를 위협하는 AI 모델의 폐쇄성 문제
미 국방부는 이미 구글의 제미나이와 함께 그록을 펜타곤 네트워크 내부에서 운영하기로 계약을 체결했습니다. 이 과정에서 기밀 문서와 비기밀 문서를 모두 처리하게 되는데, 전문가들은 이를 심각한 국가 안보 위험으로 간주합니다.
- 모델 내부를 확인할 수 없는 폐쇄형 가중치 구조
- 소프트웨어 코드를 검사하거나 실행 위치를 제어하기 어려움
- 의사결정 과정을 투명하게 감사할 수 없는 불투명성
전직 국가안보국 계약업체 관계자들은 폐쇄형 코드와 가중치의 조합이 안보 측면에서 최악의 선택이라고 비판합니다. 인공지능 에이전트가 시스템에 접근하고 정보를 이동시키는 권한을 가질 때 그 내부를 볼 수 없다는 것은 큰 위험이기 때문입니다.
정부가 그록(Grok) 연방 사용 금지를 검토해야 하는 방법
행정부는 현재 시행 중인 인공지능 행정 명령에 따라 그록이 중립성과 진실 추구 기준을 충족하는지 철저히 평가해야 합니다. 예산관리국의 지침에 따르면 완화할 수 없는 심각하고 예견 가능한 위험이 있는 시스템은 사용을 중단해야 합니다.
단체들이 요구하는 구체적인 검토 단계는 다음과 같습니다.
- 그록의 안전성 실패에 대한 공식적인 조사 착수
- 적절한 감독 프로세스가 수행되었는지 투명하게 공개
- 위험 완화 표준 준수 여부에 대한 공적 해명
글로벌 국가들의 그록 서비스 차단 및 조사 현황
미국뿐만 아니라 세계 여러 나라가 이미 그록의 부적절한 행동에 대해 조치를 취하고 있습니다. 올해 초에는 인도네시아, 말레이시아, 필리핀이 일시적으로 그록에 대한 접근을 차단하기도 했습니다.
유럽연합과 영국, 한국, 인도 등 주요 국가들도 데이터 프라이버시와 불법 콘텐츠 유포 문제로 xAI와 엑스에 대한 조사를 진행 중입니다. 커먼 센스 미디어의 평가에 따르면 그록은 어린이와 청소년에게 가장 위험한 인공지능 중 하나로 꼽혔으며, 이는 성인 사용자에게도 마찬가지로 적용될 수 있는 문제입니다.
하위 부처에서의 무분별한 사용 실태
국방부 외에도 보건복지부 등 일부 기관에서 소셜 미디어 관리나 문서 초안 작성을 위해 그록을 사용하고 있는 것으로 알려졌습니다. 편향되거나 차별적인 출력을 생성할 가능성이 있는 모델을 주택, 노동, 사법 분야에서 사용할 경우 국민들에게 부정적인 영향을 미칠 수 있다는 우려가 제기됩니다.
그록(Grok) 연방 사용 금지 논란을 정리하며
인공지능 기술의 발전은 혁신적이지만 그 이면에 숨겨진 안전성 결여는 국가적 재앙으로 이어질 수 있습니다. 이번 연합 단체의 요구는 단순한 기술적 결함 지적을 넘어 정부 기관이 기술 도입 시 가져야 할 책임감을 강조하고 있습니다.
우리 사회가 더 안전한 디지털 환경을 구축하기 위해서는 기술적 편리함보다 윤리적 기준과 안보를 우선시하는 태도가 필요합니다. 정부가 이번 그록(Grok) 연방 사용 금지 촉구 서한에 대해 어떤 공식적인 답변을 내놓을지 귀추가 주목되는 시점입니다.
이어서 보면 좋은 글
#그록 #xAI #연방정부 #AI보안 #인공지능윤리 #일론머스크 #딥페이크 #안보위협 #디지털정책 #Grok금지