AI가 우리의 삶에 깊숙이 들어오면서 정보 습득 방식도 크게 변하고 있죠. 하지만 우리가 AI를 통해 얻는 정보가 오히려 세상의 다양한 지식을 소멸시킬 수 있다는 충격적인 경고가 나오고 있어요. 특히 전통 지식과 지역 지식이 소외될 위험에 처해 있답니다. 지금부터 AI 시대의 지식 붕괴 현상과 우리가 놓치고 있는 중요한 가치들을 함께 알아볼까요?
AI 시대의 지식 붕괴, 무엇이 문제일까요?
우리는 검색 엔진이나 챗봇 같은 AI 도구들이 세상의 모든 정보를 알고 있다고 생각하기 쉬워요. 궁금한 것이 생기면 AI에게 묻고, 그 답을 당연하게 받아들이죠. 하지만 AI가 학습하는 데이터는 대부분 온라인에 디지털화된 정보에 국한되어 있어요. 문제는 이 디지털 정보가 특정 언어와 문화, 즉 서구 중심의 지식에 크게 편향되어 있다는 점이에요. 수세기 동안 인류가 쌓아온 방대한 지혜 중에는 아직 디지털 세상에 기록되지 않은 구전 지식, 체험적 지식, 소수 언어로 된 정보가 너무나 많아요. AI는 이러한 정보에 접근할 수 없기에, 우리가 AI에 의존할수록 이 귀중한 지식들은 점점 더 소외되고 결국 사라질 위험에 처한답니다. 이러한 현상을 바로 ‘지식 붕괴’라고 부를 수 있어요.
디지털 세상의 편향된 지식, 왜곡된 진실
인터넷 초창기부터 영어와 서구권 기관들이 디지털 정보의 대부분을 차지했어요. 이러한 불균형은 시간이 갈수록 심화되었고, 이제는 젠AI(Generative AI)가 이 편향된 데이터를 기반으로 학습하면서 더욱 고착되고 있어요. 예를 들어, 전 세계 인구의 19%만이 영어를 사용하지만, 세계 최대 공개 학습 데이터 중 하나인 Common Crawl의 45%는 영어 콘텐츠로 채워져 있어요. 반면 세계 3위 사용 언어인 힌디어는 0.2%에 불과하고, 8천6백만 명이 사용하는 타밀어는 겨우 0.04%를 차지하죠. 이렇게 데이터가 불균형하면 AI는 특정 방식의 지식(주로 서구 및 제도권 지식)을 더 중요하게 여기고, 구전 전통이나 소수 언어처럼 다른 방식의 지식을 간과하게 된답니다.
언어와 함께 사라지는 지혜: AI의 맹점
언어는 단순한 의사소통 수단을 넘어, 수 세기 동안 축적된 인류의 경험과 통찰을 담는 그릇이에요. 각 언어는 공동체를 형성하는 의식과 관습, 예술을 보는 독특한 시선, 특정 지역의 생태계에 대한 깊은 이해, 정신적 세계관, 심지어 치유 전통까지 품고 있죠. AI 시스템이 특정 언어에 충분히 노출되지 않으면, 해당 언어가 담고 있는 인간 경험에 대한 이해에 큰 공백이 생길 수밖에 없어요.
지역 생태 지식의 소멸
한 환경운동가는 지역 식물에 대한 섬세하고 구체적인 이름이 그 공동체의 생태계와의 연결성을 보여준다고 말했어요. 식물 종은 지역 특유의 경우가 많고, 이 지식은 언어 속에 깊이 박혀 있어요. 하지만 언어가 소외되면 그 안에 담긴 소중한 식물 지식도 함께 사라지게 된답니다. 인도의 한 건축가는 자연 건축 기술 복원에 힘쓰고 있는데, 이 지식 대부분이 구전으로 전해지고 소수의 노인들만이 알고 있어, 그들이 세상을 떠나면 지식이 영원히 사라지는 것을 안타까워했어요.
젠AI, 지식 불균형을 가속화하는 이유
젠AI는 단순히 기존의 지식 불균형을 반영하는 것을 넘어, 이를 더욱 심화시키는 경향이 있어요. LLM(Large Language Model)의 내부 지식 표현은 균일하지 않아요. 학습 데이터에서 더 자주, 더 두드러지게 나타나는 개념은 더 강력하게 인코딩되죠.
모드 증폭 현상
예를 들어, 학습 데이터에 피자가 가장 좋아하는 음식으로 60% 언급되고, 파스타가 30%, 비리야니가 10% 언급되었다고 가정해 보세요. AI에게 가장 좋아하는 음식을 100번 물어보면, 피자가 60번보다 훨씬 많이 등장하고, 비리야니와 같은 덜 빈번한 항목은 과소 대표되거나 아예 누락될 수 있어요. 이는 LLM이 다음 토큰(단어 또는 단어 조각)을 가장 확률적으로 정확하게 예측하도록 최적화되어 있기 때문인데, 이러한 ‘모드 증폭’ 현상은 특정 지식이나 관점을 과도하게 강조하게 만든답니다. 여기에 인간 피드백 기반 강화 학습(RLHF)과 상업적 압력까지 더해지면서 AI 모델은 서구 중심의 가치와 세계관을 더욱 공고히 하게 되고요.
사라진 전통에서 길을 찾다: 지역 지식의 가치
인도의 벵갈루루는 한때 상호 연결된 호수 시스템으로 똑똑한 물 관리를 자랑했어요. ‘네루간티’ 공동체 같은 사람들이 물 흐름을 조절하고 공정한 분배를 보장했죠. 하지만 현대화와 함께 지역 공동체 주도의 물 관리는 중앙 집중식 시스템으로 바뀌었고, 네루간티 공동체의 역할은 사라졌어요. 그 결과, 도시는 물 관리 문제에 직면하게 되었고, 이제서야 전문가들은 이 호수 시스템을 되살리기 위해 네루간티 공동체의 노인들에게 조언을 구하고 있답니다. 그들의 통찰은 매우 중요하지만, 그 지식은 기록되지 않고 구전으로만 전해지며 디지털 공간에는 거의 없어요.
지역 지식의 소실은 단지 해당 지역 사회만의 비극이 아니에요. 이는 인류와 생태계의 복지를 지탱하는 더 큰 이해의 웹을 붕괴시키는 일이죠. 특정 환경에 적응하며 진화해 온 생물종처럼, 인간의 지식 시스템 또한 특정 장소의 특수성에 맞춰져 있어요. 이러한 시스템이 파괴될 때, 그 결과는 원래 발생 지점을 넘어 전 세계로 파급될 수 있답니다. 기후 위기가 우리에게 보여주듯, 오염된 물과 상승하는 기온은 국경을 넘나들며 전 인류의 고통이 되니까요.
지식 붕괴를 막는 지혜로운 탐구 자세
AI 개발자들은 자신들의 기술이 과학 발전을 가속화하고 인류의 큰 문제를 해결할 것이라고 확신해요. 하지만 우리는 과연 우리가 간과했던 지식 시스템과 진정으로 소통하며 이 기술적 미래로 나아갈 수 있을까요? 아니면 우리가 만들어온 지식의 위계질서를 통해 이해의 형태들을 계속해서 지워나가고, 결국 지구에서 지속 가능하게 사는 법을 배우지 못해 화성을 개척하려 애쓰게 될까요?
수백억 달러를 쏟아부어 초지능을 개발하더라도, 어떤 지식이 가치 있는지를 결정하는 위계질서를 넘어서는 능력이 없다면, 우리는 수 세대에 걸쳐 발전해 온 지식 시스템을 계속해서 지워나갈 뿐일 거예요. AI가 모든 것을 안다고 맹신하기보다는, 오히려 ‘모른다는 것을 인정하는 것’이 지식 붕괴를 막는 가장 정직한 출발점이 아닐까요? 이 글이 독자 여러분에게 AI 시대의 지식에 대한 새로운 관점을 제시하고, 우리의 지식 탐구 자세를 되돌아보는 계기가 되기를 바랍니다.
출처: https://www.theguardian.com/news/2025/nov/18/what-ai-doesnt-know-global-knowledge-collapse