최근 AI 딥페이크 기술이 발전하며 고인의 모습을 재현하는 사례가 늘고 있습니다. 하지만 이는 고인과 유가족에게 깊은 상처를 줄 수 있는 심각한 문제입니다. 고인 딥페이크의 윤리적 딜레마와 법적 한계를 함께 살펴보면서, 우리 사회가 나아가야 할 방향은 무엇일지 고민해 볼까요?
로빈 윌리엄스 딸의 간절한 호소: “제발 멈춰주세요”
고 로빈 윌리엄스의 딸 젤다 윌리엄스가 AI 딥페이크 영상에 대한 깊은 고통을 호소했습니다. 그녀는 인스타그램 스토리를 통해 “제발, 아빠의 AI 영상을 보내는 것을 멈춰주세요. 제가 그걸 보고 싶어 하거나 이해할 것이라고 믿지 마세요. 저는 그렇지 않아요”라고 간절히 요청했어요.
그녀는 이러한 영상들이 아빠에게, 자신에게, 그리고 모두에게 무례한 행동이며, 아빠가 결코 원하지 않을 것이라고 강조했습니다. 단순히 고인을 재현하는 것을 넘어, 그들의 유산을 불쾌한 방식으로 조작하는 행위에 대한 강한 비판인데요. 이는 고인 존엄성에 대한 심각한 침해이자, 살아있는 유가족에게는 지울 수 없는 상처가 될 수 있음을 보여줍니다.
OpenAI Sora, 고인 딥페이크의 새로운 시작
젤다 윌리엄스의 호소는 OpenAI의 Sora 2 영상 모델과 Sora 소셜 앱 출시 직후 나왔습니다. 이 앱은 사용자에게 자신, 친구, 그리고 특정 만화 캐릭터의 매우 사실적인 딥페이크를 생성할 수 있는 기능을 제공합니다. 놀랍게도, 이 기능은 고인에게도 적용되는데, 이는 고인에 대한 명예훼손이 불법이 아니라는 법적 해석 때문이랍니다.
Sora는 살아있는 사람의 영상을 생성하지 못하지만 (본인이나 동의한 친구는 예외), 고인에 대한 제한은 거의 없습니다. 이 앱은 마틴 루터 킹 주니어, 프랭클린 D. 루스벨트, 리처드 닉슨과 같은 역사적 인물뿐만 아니라 밥 로스, 존 레논, 알렉스 트레벡, 그리고 로빈 윌리엄스와 같은 유명인들의 고인 딥페이크 영상으로 넘쳐나고 있습니다. OpenAI가 고인에 대한 선을 어떻게 긋고 있는지는 불분명해 보이네요.
사망자 딥페이크, 법적으론 문제없지만…
학생 언론 법률 센터에 따르면, 사망자 딥페이크는 법적으로 명예훼손이 아니라고 합니다. 이는 고인이 된 사람을 비방하는 것이 불법이 아니기 때문인데요. 실제로 OpenAI는 사망자 딥페이크의 허용 여부에 대한 테크크런치 문의에 응답하지 않았지만, 법적 선례를 볼 때 회사가 고인 명예훼손에 대해 책임지지 않을 가능성이 높다고 합니다.
하지만 법적 책임이 없다는 것이 윤리적 딜레마마저 없다는 뜻은 아닐 거예요. 고인에게는 자신을 보호할 수 있는 목소리가 없으며, 그들의 가족은 이러한 기술로 인해 계속해서 고통받을 수 있습니다. 법적 한계는 명확하지만, 도덕적이고 윤리적인 책임은 어디까지인지에 대한 깊은 논의가 필요한 시점입니다.
AI 딥페이크 기술, 경계를 넘어서는 윤리적 논란
젤다 윌리엄스는 “실존 인물의 유산이 ‘대충 그들처럼 보이고 소리 나면 충분하다’는 식으로 축소되어 다른 사람들이 끔찍한 틱톡 영상을 만들어 그들을 조종하는 것을 보는 것은 미칠 일”이라고 비판했습니다. 이는 AI 딥페이크 기술이 단순한 오락을 넘어 고인의 정체성과 기억을 훼손할 수 있다는 경고로 들립니다.
OpenAI는 이러한 문제에 대해 다소 안이한 접근 방식을 취한다는 비판을 받고 있어요. Sora 출시 당시 피터 그리핀이나 피카츄 같은 저작권이 있는 캐릭터들의 AI 클립이 쏟아져 나온 것도 그 예시입니다. 영화 협회(MPA)는 이미 저작권법이 이러한 경우에 적용된다며 OpenAI에 조치를 요구했고요. Sora는 현재까지 대중에게 접근 가능한 딥페이크 생성 AI 모델 중 가장 위험하다고 평가받는데, 다른 회사들이 OpenAI를 따라잡으면서 딥페이크 문제점은 더욱 심화될 수 있습니다.
고인 딥페이크, 미래를 위한 우리의 역할
살아있는 사람이든, 고인이든, 우리가 실제 사람들을 개인적인 유희 대상으로 취급한다면 이는 매우 끔찍한 선례를 남길 것입니다. 고인 딥페이크 기술이 계속 발전하고 확산되는 상황에서, 우리는 기술 개발사와 사용자 모두에게 더 큰 사회적 책임을 요구해야 합니다.
기술의 발전 속도만큼 AI 윤리와 관련 법규, 그리고 사회적 합의가 따라가지 못한다면, 이러한 문제가 더욱 심각해질 수 있어요. 고인의 존엄성을 지키고, 유가족의 아픔을 헤아리며, 건강한 디지털 문화를 만들어가기 위한 모두의 노력이 절실합니다.
마무리
AI 딥페이크 기술이 더욱 정교해질수록, 고인의 존엄성과 유가족의 아픔을 지키기 위한 우리의 관심과 노력이 중요합니다. 이 문제에 대해 여러분은 어떻게 생각하시나요? 댓글로 의견을 나눠주세요.