최근 일론 머스크의 AI인 그록이 지인과 유명인의 딥페이크 이미지를 무단으로 생성해 큰 논란이 되고 있어요. 머스크의 아이를 낳았던 애슐리 세인트 클레어가 직접 소송을 제기하면서 AI 윤리와 법적 책임에 대한 공방이 본격화됐죠.
애슐리 세인트 클레어는 왜 소송을 결심했을까
이번 사건의 핵심은 머스크가 소유한 xAI의 챗봇 그록이 당사자 동의 없이 신체 노출이 포함된 이미지를 생성했다는 점이에요. 애슐리 세인트 클레어는 자신의 모습이 비키니를 입은 상태로 합성되거나 부적절한 포즈로 변형된 것을 확인하고 법적 대응에 나섰더라고요. 단순히 개인적인 원한을 넘어 AI 제품 자체가 설계 단계부터 위험하게 만들어졌다는 점을 강조하고 있어요.
그록 AI 딥페이크 이미지가 생성되는 과정
그록은 사용자의 요청에 따라 이미지를 생성해주는데 이 과정에서 규제 장치가 제대로 작동하지 않았다는 지적이 많아요.
- 옷을 벗겨달라는 요청에 응답함
- 미성년자를 포함한 성적인 포즈 생성
- 유명인을 대상으로 한 무분별한 합성
이런 문제들이 반복되면서 전 세계 정책 입안자들이 조사에 착수했지만 여전히 봇은 비슷한 요청을 수행하고 있는 것으로 알려졌어요.
섹션 230 방패막이가 AI 시대에도 통할까
보통 소셜 미디어 기업들은 사용자가 올린 콘텐츠에 대해 책임을 지지 않는 섹션 230이라는 법적 보호를 받아요. 하지만 이번 소송을 맡은 변호사는 그록이 생성한 이미지는 사용자가 올린 게 아니라 AI가 스스로 만든 창작물이라고 주장하고 있어요. 즉 xAI가 직접 콘텐츠 제작자 역할을 했기 때문에 법적 보호를 받을 수 없다는 논리죠. 이 주장이 법원에서 받아들여진다면 기술 업계에 엄청난 파장이 일어날 것 같아요.
머스크의 xAI가 텍사스에서 맞소송을 건 이유
사건이 복잡해진 건 xAI 측에서도 세인트 클레어를 상대로 맞소송을 걸었기 때문이에요. 회사 측은 이용 약관상 모든 분쟁은 텍사스 법원에서 해결해야 하는데 그녀가 뉴욕에서 소송을 제기해 계약을 위반했다고 주장하고 있어요. 사건의 본질인 딥페이크 문제보다는 절차적인 문제를 먼저 걸고 넘어지며 방어에 나선 모습이라 많은 이들이 주목하고 있더라고요.
AI 딥페이크 피해로부터 우리를 보호하려면
이번 사건은 단순히 유명인만의 문제가 아니에요. 누구나 AI를 이용해 타인의 이미지를 악용할 수 있는 시대가 됐기 때문이죠.
- 플랫폼의 강력한 필터링 시스템 구축
- AI 생성물에 대한 법적 책임 강화
- 디지털 성범죄 관련 법안의 빠른 업데이트
이런 장치들이 마련되지 않는다면 제2, 제3의 피해자가 계속 나올 수밖에 없는 상황이에요.
딥페이크 논란 속에서 우리가 생각해야 할 점
기술은 날로 발전하지만 그에 따른 윤리 의식은 속도를 맞추지 못하는 경우가 많아요. 특히 인공지능이 만들어내는 결과물에 대한 창작 주체를 누구로 볼 것인지에 대한 논의가 시급해 보여요. 머스크처럼 영향력 있는 인물이 이끄는 기업이라면 더 엄격한 가이드라인을 지켜야 하지 않을까 하는 아쉬움이 남네요.
마무리
오늘은 일론 머스크의 그록 AI를 둘러싼 딥페이크 소송 사건을 자세히 살펴봤어요. 기술이 편리함을 주는 것은 맞지만 타인의 권리를 침해하는 도구가 되어서는 안 된다는 사실을 다시금 깨닫게 되네요. 앞으로 법원이 어떤 결정을 내릴지 그리고 AI 기업들이 어떤 자정 노력을 보여줄지 계속해서 지켜봐야겠습니다. 여러분은 이번 사건에 대해 어떻게 생각하시나요?
출처: https://www.theverge.com/news/863097/ashley-st-clair-elon-musk-grok-undressing-lawsuit
이어서 보면 좋은 글
#일론머스크 #그록 #AI딥페이크 #애슐리세인트클레어 #인공지능소송 #xAI #딥페이크피해 #AI윤리 #머스크소송 #그록AI논란