빅테크 기업들이 AI 기술로 민주주의를 위협하고 있다는 우려가 커지고 있어요. 특히 오웰의 ‘1984’에서 나온 이중언어처럼 ‘자유’라는 명목으로 규제를 회피하며 집단 의지를 무력화시키고 있다는 지적이 나오고 있습니다.
최근 출시된 AI 서비스들의 문제점
최근 몇 주 동안 출시된 세 가지 AI 애플리케이션이 우리 사회에 심각한 영향을 미칠 가능성이 높아요. OpenAI의 비디오 플랫폼 ‘소라(Sora)’, 가상 동반자 ‘프렌드(Friend)’, 그리고 메타의 챗봇 광고 모델이 바로 그것들입니다.
소라는 출시 직후부터 폭력적이고 인종차별적 이미지로 논란이 되었어요. 딥페이크 기술로 만든 샘 알트만 CEO의 도둑질 영상이 화제가 되었지만, 이는 창작자들의 저작물을 무단으로 학습시킨 현실을 보여주는 상징적 사건이었죠.
인공지능 동반자 서비스의 위험성
‘프렌드’는 사용자의 대화와 행동을 수집해 지지적인 메시지를 보내는 웨어러블 기기예요. 비슷한 서비스인 ‘레플리카’는 음성과 감정적 교감까지 제공하죠. 이런 기술이 특히 젊은 세대의 인간관계에 어떤 영향을 미칠지에 대한 깊은 고민이 부족해 보여요.
메타의 감시 자본주의 확장
메타는 챗봇 상호작용을 통해 광고를 타겟팅하기 시작했어요. 이는 소셜미디어를 ‘엔시티파이(enshittify)’시킨 감시 자본주의 모델이 AI 영역으로 확장되는 것을 의미합니다. 사용자는 고객이 아닌 상품이 되어, 그들의 프롬프트가 사용자 프로필을 형성하고 행동을 조작하게 되죠.
선거 캠페인에서의 AI 악용 가능성
이 세 가지 기술이 결합되면 선거 과정에서 심각한 문제를 일으킬 수 있어요. 정치 세력이 챗봇 내 광고를 구매해 사용자를 자신들의 진실로 유도하고, 타겟팅된 가짜 영상을 패키징하며, AI 친구가 이를 강화하는 시나리오가 가능합니다.
이는 공상과학이 아닌 시민 개개인의 원자화를 가속화하는 현실적 위협이에요. 잘못된 정보와 자동화된 자기강화로 구동되는 ‘나만의 정치’가 우리의 집단 행동 능력을 더욱 약화시킬 거예요.
테크노 파시즘의 현실화
빅테크는 오웰식 이중언어를 구사하며 민주적 부식을 가리고 있어요. ‘자유’라는 감언이설로 책임을 회피하고, 규제를 집단 의지의 표현이 아닌 ‘국가 통제’로 매도하고 있죠.
역사학자 자니스 미무라가 10여 년 전 정의한 ‘테크노 파시즘’은 산업과 정부 권력의 적극적 결합으로 자유주의 규범을 무력화시키는 현상을 말해요. 개인들이 미리 정해진 더 큰 선을 위해 자신의 이익을 포기하게 만드는 거죠.
실리콘밸리 억만장자들의 정치적 영향력
트럼프 취임식에서 빅테크가 최전선에 선 이후, 일론 머스크의 도지(Doge)가 미국 정부 데이터베이스를 긁어모으고, OpenAI의 스타게이트 프로젝트가 세계 에너지를 고갈시키는 계획이 승인되었어요. 반면 AI 가드레일 설치 움직임은 국내외에서 거부당했죠.
피터 틸과 마크 앤드리슨 같은 실리콘밸리 자유지상주의 억만장자들이 JD 밴스를 대통령직 승계 서열에 올려놓았고, ‘왕으로서의 CEO’를 주장하는 커티스 야빈의 사상이 잘못된 곳에서 견인력을 얻고 있어요.
대안적 접근 방식들
다행히 대안적 접근법들이 존재해요. 우버가 대만에 진출했을 때, 당시 디지털 장관 오드리 탕은 광범위한 시민 배심원 프로그램을 소집해 회사 운영 기본 규칙을 정했어요. 이는 대만의 ‘항시 가동’ 숙의 민주주의 모델의 일부였죠.
영국 학자 댄 맥퀼란은 저서 ‘AI 저항하기’에서 노동자와 지역사회 위원회가 직장, 학교, 지역사회에 기술을 통합하는 과정에서 실질적 발언권을 가져야 한다고 주장해요.
AI 저항의 집단적 선택
AI 저항은 집단적 선택이기도 해요. AI를 신중하게 사용하고, 데이터를 아껴서 제공하며, 합성 뉴스와 문화를 무시하고, AI가 진짜보다 더 진실한 것처럼 포장될 때 이를 알 권리를 요구하는 것이죠. 백지에서 사고를 시작하는 것도 중요해요.
인간다움을 지키는 방법
AI 산업은 인간이 가장 갈망하는 것들을 제공한다고 주장해요. 지능, 주체성, 동반자 관계 말이에요. 하지만 바로 이런 특성들이야말로 AI의 테크노 파시즘적 경향에 맞서는 우리의 유일한 방어수단입니다.
민주주의를 지키려면 시민들이 AI 기술 도입 과정에 적극적으로 참여하고, 빅테크의 이중언어에 속지 말아야 해요. 진정한 자유는 규제 없는 방임이 아니라, 집단 의지를 통한 합리적 통제에서 나온다는 점을 기억해야겠어요.
출처: The Guardian – Big Tech deploys Orwellian doublespeak to mask its democratic corrosion