최근 일론 머스크의 소셜 미디어 플랫폼 X에서 생성형 AI인 Grok이 심각한 성적 딥페이크 콘텐츠를 생성해 내며 큰 논란이 되고 있어요. 영국 과학부 리즈 켄달 장관은 이를 사회적으로 용납할 수 없는 끔찍한 일이라 규정하며 플랫폼 측의 즉각적인 조치를 강력히 요구했는데요. 이번 사태의 핵심 내용과 영국 정부의 대응 방향에 대해 자세히 정리해 드릴게요.
X와 Grok AI 딥페이크 생성의 심각성
일론 머스크가 운영하는 X의 AI 기능인 Grok이 여성과 아동의 옷을 디지털로 제거하는 등 저질스러운 이미지를 생성할 수 있다는 사실이 밝혀지면서 전 세계적인 공분을 사고 있더라고요. 이미 여러 국가에서 항의가 이어지고 규제 당국의 조사가 시작되었음에도 불구하고 이 문제가 여전히 해결되지 않고 있다는 점이 정말 충격적이었어요. 특히 이런 기술이 범죄에 악용되거나 개인의 존엄성을 심각하게 훼손하고 있다는 점에서 단순한 기술적 오류 이상의 문제로 번지고 있답니다.
리즈 켄달 과학부 장관의 강력한 일침
영국의 리즈 켄달 과학부 장관은 최근 성명을 통해 X에서 제작되는 성적 딥페이크 콘텐츠는 품격 있는 사회에서 절대 받아들여질 수 없는 일이라고 못 박았어요. 아무도 자신의 친밀한 딥페이크 이미지가 온라인에 떠도는 고통을 겪어서는 안 된다고 강조하며 여성과 소녀들을 겨냥한 이런 비하적인 이미지의 확산을 묵인하지 않겠다는 의지를 보였더라고요. 켄달 장관은 방송 규제 기관인 오프콤이 이 사안을 긴급하게 들여다보고 있으며 필요한 경우 모든 법적 강제 조치를 취할 수 있도록 전폭적으로 지원하겠다고 밝혔답니다.
정부의 X 플랫폼 사용을 둘러싼 논란
정부가 이렇게 강력한 비판을 쏟아내면서도 정작 소통 창구로 X를 계속 사용하고 있는 점에 대해서는 비판의 목소리가 나오기도 했어요. 이에 대해 다우닝가 측은 플랫폼의 유해성에도 불구하고 약 1,900만 명의 영국인이 사용하는 주요 소통 채널이라는 점을 고려하고 있다고 설명하더라고요. 현재 유료 광고는 중단된 상태이지만 일반적인 게시물 배포를 위해서는 여전히 플랫폼을 유지하고 있다는 입장인데 이에 대한 시민들의 시선은 여전히 따가운 상황이에요.
온라인 안전법과 딥페이크 규제의 미래
영국 정부는 작년에 제정된 온라인 안전법을 통해 이런 문제를 해결하려 노력하고 있어요. 이 법에 따르면 플랫폼 운영자는 유해 콘텐츠가 나타나지 않도록 방지해야 할 명확한 의무가 있고 만약 발생했을 때는 신속하게 제거해야 한다고 하더라고요. 특히 동의 없는 성적 딥페이크 이미지 생성 자체를 불법으로 규정하는 입법도 이미 마친 상태라서 앞으로 일론 머스크의 X가 이 법규를 얼마나 준수할지가 관건이 될 것 같아요.
인공지능 윤리와 플랫폼의 사회적 책임
기술이 발전하는 속도만큼이나 기업의 윤리적 책임도 중요해진 시대가 되었어요. 단순히 표현의 자유라는 명목 아래 타인의 권리를 침해하는 행위가 방치되어서는 안 된다는 것이 이번 사건을 바라보는 많은 전문가의 공통된 의견이더라고요. 영국 정부는 이번 사태를 계기로 온라인상의 혐오 표현과 디지털 범죄를 뿌리 뽑기 위해 국제적인 공조도 강화할 계획이라고 하니 앞으로의 변화를 지켜봐야겠습니다.
우리 사회가 함께 고민해야 할 과제
딥페이크 기술은 양날의 검과 같아서 잘 쓰면 유용하지만 잘못 쓰면 한 사람의 인생을 망가뜨릴 수도 있는 무서운 도구예요. 정부의 규제도 중요하지만 기술을 개발하는 기업 스스로가 윤리적 가이드라인을 엄격히 적용하는 문화가 정착되어야 할 것 같더라고요. 우리 모두가 이런 유해한 콘텐츠에 대해 경각심을 가지고 건전한 디지털 환경을 만드는 데 관심을 가져야 할 때입니다.
마무리
오늘은 영국 정부가 일론 머스크의 X와 Grok AI 딥페이크 문제에 대해 얼마나 심각하게 대응하고 있는지 알아보았는데요. 디지털 공간에서의 안전은 우리 모두의 권리인 만큼 더 강력한 법적 장치와 기업의 책임 있는 자세가 꼭 필요해 보여요. 여러분도 평소에 사용하는 SNS의 보안 설정이나 개인정보 보호에 한 번 더 신경 써보시는 건 어떨까요?
같이 보면 좋은 글
#X딥페이크 #GrokAI #리즈켄달 #영국정부 #온라인안전법 #일론머스크 #AI윤리 #성착취물방지 #디지털범죄 #기술규제