일론 머스크의 AI 그록(Grok)이 유료 사용자만 이미지 편집을 할 수 있도록 제한했다는 소식은 사실이 아니었어요. 실제로는 무료 계정으로도 누구나 Grok 딥페이크 이미지를 만들 수 있는 허점이 그대로 남아 있더라고요.
유료 결제만 가능하다는 Grok 딥페이크 공지의 숨겨진 진실
최근 엑스(X, 구 트위터)는 비윤리적인 이미지 생성을 막기 위해 그록의 기능을 유료 구독자 전용으로 전환했다고 발표했어요. @grok 계정을 태그해서 이미지를 만들어달라고 요청하면 유료로 업그레이드하라는 안내 메시지가 뜨거든요. 하지만 이 공지는 일종의 눈속임에 가까웠어요. 실제로 사용자가 직접 이미지를 편집하거나 생성하는 다른 경로들은 여전히 활짝 열려 있는 상태였기 때문이에요. 겉으로는 규제를 강화하는 척하면서 실제로는 위험한 도구를 방치하고 있다는 비판이 나오는 이유가 바로 여기에 있더라고요.
무료 계정에서도 여전히 작동하는 그록의 이미지 편집 기능
더 버지(The Verge)의 취재 결과에 따르면 엑스 웹사이트나 앱에서 이미지 버튼 하나만 누르면 무료 사용자도 그록의 편집 기능을 그대로 쓸 수 있었어요. 데스크톱에서 이미지 위에 뜨는 편집 버튼을 누르거나 모바일에서 이미지를 길게 누르면 바로 그록이 소환되는 방식이었죠. 이를 통해 실존 인물의 옷을 벗기거나 부적절한 합성을 하는 Grok 딥페이크 작업이 아무런 제약 없이 가능했다는 사실이 정말 충격적이었어요. 일론 머스크는 이미지 생성을 제한했다고 말했지만 정작 가장 접근하기 쉬운 도구들은 그대로 둔 셈이었거든요.
타사 AI와 다른 엑스만의 위험한 운영 방식
구글의 제미나이나 오픈AI의 챗GPT 같은 경우에는 처음부터 강력한 가드레일을 설정해 두는 편이에요. 특정 인물이나 부적절한 키워드가 포함되면 이미지 생성 자체를 거부하는 시스템이 잘 갖춰져 있거든요. 하지만 그록은 사용자가 알아서 법을 지키라는 식의 방임주의적 태도를 보이고 있어요. 심지어 안전을 담당하는 팀원들이 대거 퇴사했다는 소식까지 들리면서 기술이 범죄에 악용될 가능성이 더 커졌더라고요. 비용을 지불하면 무엇이든 할 수 있게 하겠다는 머스크의 철학이 이번 사태의 근본적인 원인이 아닌가 싶었어요.
전 세계 규제 당국이 Grok 딥페이크 기술을 주목하는 이유
상황이 이렇다 보니 영국 총리를 비롯한 전 세계 정치권에서도 강력한 경고를 보내고 있어요. 특히 미성년자나 일반인을 대상으로 한 비동의 성범죄물이 무분별하게 생성되면서 법적인 공백을 메워야 한다는 목소리가 높더라고요. 엑스는 예전부터 딥페이크 포르노의 온상이라는 오명을 써왔는데 이번 그록 사태로 그 이미지가 더 굳어지는 모양새예요. 규제 당국이 실제로 엑스에 대해 강력한 제재를 가할 준비를 하고 있어서 앞으로의 상황을 주의 깊게 지켜봐야 할 것 같아요.
내 사진이 범죄에 이용될까 걱정될 때 대처하는 방법
누구나 손쉽게 딥페이크를 만들 수 있는 시대가 되면서 우리 스스로를 보호하는 방법도 중요해졌어요. 가급적 SNS에 얼굴이 너무 선명하게 나온 고화질 사진을 전체 공개로 올리는 것은 피하는 게 좋더라고요. 이미 피해를 입었다면 즉시 디지털 성범죄 피해자 지원센터에 도움을 요청하고 해당 플랫폼에 삭제 신고를 적극적으로 해야 해요. 기술의 발전이 편리함을 주기도 하지만 이렇게 Grok 딥페이크 같은 보안 위협이 일상이 된 만큼 우리 모두의 디지털 윤리 의식이 어느 때보다 절실한 시점인 것 같네요.
마무리
지금까지 엑스의 그록이 보여준 모순적인 행보와 그 위험성에 대해 알아보았는데요. 겉으로만 규제하는 척하고 실제로는 구멍을 숭숭 뚫어놓은 일론 머스크의 방식은 분명 문제가 있어 보여요. 여러분도 혹시 모를 Grok 딥페이크 피해를 예방하기 위해 개인정보 설정과 사진 공개 범위를 다시 한번 점검해 보시는 건 어떨까요? 안전한 디지털 환경은 우리 스스로의 관심에서 시작된다는 걸 잊지 마세요.
출처: The Verge
이어서 보면 좋은 글
#Grok딥페이크 #일론머스크 #엑스이미지편집 #AI보안논란 #딥페이크방지 #AI가드레일 #디지털성범죄 #그록유료화 #트위터업데이트 #디지털윤리