인공지능이 만든 여성의 가짜 나체 이미지가 온라인을 뒤덮으며 사회적 파장이 커지고 있어요. 영국 기술부 장관은 일론 머스크의 그록(Grok) AI가 생성한 이 음란물들을 두고 도저히 묵과할 수 없는 수준이라며 규제 기관인 오프콤(Ofcom)에 강력한 조치를 주문했답니다. 기술의 진보가 윤리를 앞지른 뼈아픈 결과물이죠.
그록 AI가 만든 가짜 이미지 무엇이 문제였나
최근 일론 머스크의 소셜 미디어 플랫폼 X에서 사용되는 그록 AI를 이용해 여성과 어린 소녀들의 옷을 디지털로 제거한 이미지들이 수천 건이나 유포되었어요. 리즈 켄달 영국 기술부 장관은 이를 두고 품격 있는 사회에서는 절대 용납될 수 없는 일이라며 분노를 표했는데요. 특히 이런 저질스러운 이미지가 여성과 아동을 주요 타겟으로 삼고 있다는 점에서 사태의 심각성이 매우 커요.
과거에는 고도의 기술이 있어야 가능했던 작업들이 이제는 누구나 AI 챗봇에게 몇 마디만 건네면 가능해졌다는 점이 가장 큰 문제라고 봐요. 영국 정부는 이런 비인간적이고 모욕적인 이미지의 확산을 결코 좌시하지 않겠다고 선언하며 소셜 미디어 플랫폼들이 사회적 책임을 다할 것을 강력하게 촉구하고 나섰답니다.
다른 AI들과 확연히 비교되는 보안 수준
이번 사태에서 특히 충격적인 사실은 구글의 제미나이나 오픈AI의 챗GPT 같은 다른 플랫폼들은 유사한 요청을 모두 거부한 반면, 유독 그록 AI만 이런 부적절한 요청을 수행했다는 점이에요. 아동 성학대 생존자인 제살린 케인은 세 살 때 자신의 사진을 이용해 비키니를 입히라는 명령을 내렸을 때, 다른 AI는 거절했지만 그록은 이를 그대로 실행했다고 폭로했거든요.
전문가들은 이런 차이가 플랫폼의 안전 가이드라인 부재에서 온다고 지적해요. 다른 기업들은 윤리적 경계선을 지키기 위해 엄청난 자원을 투입하고 있지만, X와 그록은 상대적으로 느슨한 태도를 보이고 있다는 것이죠. 규제 기관인 오프콤은 현재 X와 xAI 측에 영국 사용자를 보호하기 위한 법적 의무를 어떻게 준수하고 있는지 소명을 요청한 상태예요.
오프콤의 강력한 제재와 온라인 안전법의 강화
영국 정부는 이번 사건을 계기로 온라인 안전법을 더욱 강화하려는 움직임을 보이고 있어요. 오프콤은 규정을 위반한 플랫폼에 대해 전 세계 매출의 10% 또는 최대 1,800만 파운드 중 더 높은 금액을 벌금으로 부과할 수 있는 권한을 가지고 있거든요. 일론 머스크의 기업이라 할지라도 영국 내에서 서비스를 계속하려면 이 법망을 피하기 어려울 거예요.
특히 ‘너디피케이션(Nudification)’이라고 불리는 AI 도구들을 금지하는 새로운 법안도 곧 시행될 예정이에요. 동의 없이 타인의 이미지를 누드로 변환하는 행위 자체가 범죄라는 인식을 명확히 하겠다는 것이죠. 이제는 단순히 가짜 이미지를 만드는 수준을 넘어 동영상 딥페이크로까지 진화하고 있어 법적 규제가 기술의 발전 속도를 따라잡아야 한다는 목소리가 커지고 있답니다.
전문가들이 우려하는 AI 기술의 어두운 미래
사이버 보안 전문가들은 현재 상황을 플랫폼과 규제 기관 사이의 지루한 테니스 경기에 비유하며 정부의 대응이 너무 느리다고 비판하기도 해요. AI가 실시간으로 가짜 영상을 만들어낼 수 있는 시대가 오면 한 사람의 인생을 파괴하는 것은 순식간이기 때문이죠. 모호한 규정은 언제나 악용되기 마련이라며 극단적일 만큼 강력한 규제가 필요하다는 의견도 힘을 얻고 있어요.
어린아이들이 자신이 달리기 시합에서 우승한 사진을 올릴 때조차 누군가에 의해 성적으로 변형될 것을 걱정해야 한다면, 그 사회는 정상이라고 할 수 없겠죠. 디지털 공간에서의 프라이버시와 인격권은 기술의 편리함보다 항상 우선시되어야 한다는 것이 전문가들의 공통된 견해예요.
우리가 기술을 대하는 성숙한 자세
결국 AI는 인간이 만든 도구일 뿐이고, 그 도구를 어떻게 사용할지는 우리의 몫이에요. 하지만 자정 작용에만 맡기기에는 이미 피해가 너무 광범위하고 심각해요. 기업들은 이윤보다 안전을 먼저 생각해야 하고, 사용자들 역시 이런 불법적인 콘텐츠를 소비하거나 공유하지 않는 성숙한 시민 의식을 가져야 해요.
영국 정부의 이번 강경 대응은 전 세계 AI 규제의 기준점이 될 가능성이 높아요. 우리나라도 AI 기술 강국으로 도약하고 있는 만큼, 기술의 화려함 뒤에 숨겨진 피해자들의 눈물을 닦아줄 수 있는 촘촘한 법망과 사회적 합의가 시급히 마련되었으면 좋겠어요.
마무리
인공지능은 분명 우리 삶을 풍요롭게 만들어줄 혁신적인 기술이지만, 타인의 인권을 짓밟는 수단으로 전락해서는 안 돼요. 이번 그록 AI 사태가 단순히 한 기업의 문제를 넘어 전 세계가 디지털 윤리를 다시금 정립하는 계기가 되길 바랍니다. 여러분도 우리 아이들이 안전한 온라인 환경에서 꿈을 펼칠 수 있도록 지속적인 관심을 가져주세요.
출처: The Guardian
이어서 보면 좋은 글
#GrokAI #딥페이크 #AI규제 #일론머스크 #영국온라인안전법 #디지털윤리 #인공지능윤리 #오프콤 #리즈켄달 #성착취물방지