인공지능 기술이 발전하면서 AI가 생성하는 콘텐츠의 윤리적 가이드라인이 중요한 화두로 떠올랐습니다. 최근 명예훼손방지연맹(ADL)이 발표한 보고서에 따르면 일론 머스크의 xAI가 개발한 Grok이 주요 챗봇 중 혐오 발언 대응 능력이 가장 떨어지는 것으로 나타났습니다. 이번 평가가 어떤 방식으로 진행되었으며 각 모델이 어떤 차이를 보였는지 구체적인 데이터를 통해 확인해 보겠습니다.
ADL이 AI 모델 6종을 테스트한 방법
명예훼손방지연맹은 생성형 AI의 안전성을 측정하기 위해 Grok, ChatGPT, Gemini, Claude, DeepSeek, Llama 등 총 6개의 대규모 언어 모델을 대상으로 대대적인 실험을 진행했습니다. 실험 기간은 2025년 8월부터 10월까지였으며 약 2만 5천 건이 넘는 대화 데이터를 수집하여 분석했습니다.
- 테스트 카테고리 설정: 반유대주의, 반시온주의, 극단주의 세 가지 영역으로 구분
- 대화 형식의 다양화: 단순 질의응답뿐만 아니라 이미지 분석 및 문서 요약 요청 포함
- 평가 척도: 유해한 프롬프트를 식별하고 적절한 거부 이유를 설명하는지 0점에서 100점 사이로 점수화
- 공격적 시나리오: 특정 이데올로기를 옹호하는 논점을 작성하라는 압박 질문 수행
이러한 다각도 검증을 통해 각 AI 모델이 실제 사용 환경에서 혐오 표현이나 음모론을 얼마나 효과적으로 걸러낼 수 있는지 정밀하게 측정했습니다.
Grok 반유대주의 대응 점수가 가장 낮은 이유
이번 조사에서 Grok은 종합 점수 21점을 기록하며 조사 대상 중 최하위에 머물렀습니다. 특히 다른 경쟁 모델들이 평균적으로 확보한 안전 장치와 비교했을 때 현저히 낮은 성능을 보여주었는데요. ADL은 이러한 결과가 나타난 배경으로 몇 가지 기술적 결함을 지목했습니다.
- 맥락 유지 능력 부족: 여러 번 대화가 이어지는 멀티턴 상황에서 유해 문맥을 놓치는 경향이 강함
- 정치적 올바름에 대한 태도: 과거 xAI가 모델을 더 정치적으로 편향되지 않게 업데이트하는 과정에서 안전 가드가 느슨해졌을 가능성
- 편향 탐지 실패: 특정 음모론이나 혐오 발언이 포함된 문서에 대해 비판적인 시각을 유지하지 못하고 그대로 수용하는 모습 노출
특히 Grok은 설문 조사 형식의 짧은 답변에서는 어느 정도 방어 기제를 보였으나 복잡한 논리를 요구하는 상황에서는 혐오 표현을 거르지 못하는 한계를 드러냈습니다.
Claude와 ChatGPT가 보여준 혐오 발언 차단 기술
가장 우수한 성적을 거둔 모델은 앤스로픽의 Claude로 80점을 획득했습니다. 오픈AI의 ChatGPT 역시 상위권에 이름을 올리며 기업 차원의 안전 투자가 실질적인 결과로 이어지고 있음을 증명했습니다. 두 모델이 높은 점수를 받은 비결은 다음과 같습니다.
- 명확한 거절 메커니즘: 유해한 요청이 들어왔을 때 단순히 답변을 피하는 것이 아니라 왜 해당 요청이 부적절한지 논리적으로 설명함
- 엄격한 학습 데이터 필터링: 학습 단계에서부터 혐오 발언과 관련된 데이터를 정교하게 분류하여 모델의 가중치를 조절
- 실시간 모니터링 시스템: 사용자 피드백을 실시간으로 반영하여 새로운 형태의 공격적 질문에 유연하게 대응
Claude는 특히 반유대주의 문항에서 90점이라는 높은 점수를 기록하며 극단주의 콘텐츠에 대해 가장 강력한 거부 의사를 표현하는 모델로 평가받았습니다.
이미지 분석에서 드러난 Grok의 기술적 한계
이번 보고서에서 가장 충격적인 부분은 Grok의 이미지 분석 및 시각적 데이터 처리 능력이었습니다. 혐오 발언이 담긴 이미지를 분석하거나 요약하는 테스트에서 Grok은 사실상 0점에 가까운 점수를 받았습니다.
- 시각적 혐오 표현 방치: 이미지 속에 포함된 혐오 상징이나 텍스트를 인식하지 못하고 일반적인 정보로 처리함
- 딥페이크 악용 가능성: 과거 사례에서도 알 수 있듯이 부적절한 이미지를 생성하거나 분석하는 데 있어 제어 기능이 미비함
- 기술적 고립: 텍스트 기반의 안전 가이드는 존재하지만 멀티모달(텍스트+이미지) 환경에서의 안전 설계가 뒤처진 상태
ADL은 Grok이 진정한 의미의 안전한 AI가 되기 위해서는 시각 정보 분석 단계에서부터 근본적인 개선이 필요하다고 강조했습니다.
AI 모델의 편향성을 줄이는 3가지 핵심 전략
인공지능의 편향성 문제를 해결하고 Grok 반유대주의 논란과 같은 상황을 방지하기 위해서는 기술적, 제도적 장치가 병행되어야 합니다. 전문가들이 제안하는 주요 전략은 세 가지로 요약됩니다.
- 레드팀 테스트 강화: 외부 전문가 그룹이 모델을 의도적으로 공격하여 취약점을 찾아내고 이를 수정하는 과정 반복
- 투명한 데이터 공개: AI가 어떤 데이터를 근거로 답변을 생성하는지 추적 가능하도록 투명성을 높이는 기술 도입
- 보편적 윤리 기준 수립: 기업마다 제각각인 안전 기준을 통합하여 산업 전반에 적용될 수 있는 가이드라인 마련
이러한 과정이 생략된 채 기술력 경쟁에만 몰두할 경우 사회적 갈등을 조장하는 도구로 전락할 위험이 큽니다.
향후 xAI가 해결해야 할 윤리적 과제들
일론 머스크는 Grok을 개발하면서 표현의 자유를 강조해 왔습니다. 하지만 이번 ADL의 보고서는 자유의 이름 아래 방치된 혐오 발언이 실질적인 위협이 될 수 있음을 경고하고 있습니다. xAI가 앞으로 해결해야 할 숙제는 명확합니다.
- 안전 가이드라인의 재정립: 정치적 중립성과 혐오 표현 차단 사이의 명확한 경계선 설정
- 사용자 인터페이스 보안: 일반 사용자가 Grok을 통해 부적절한 콘텐츠를 대량 생산하지 못하도록 하는 제한 장치 마련
- 사회적 책임 이행: 공신력 있는 기관의 권고안을 수용하고 모델의 성능 개선 과정을 대중에게 공개
단순히 똑똑한 AI를 만드는 것을 넘어 책임감 있는 AI를 만드는 것이 xAI가 직면한 가장 큰 도전 과제가 될 것입니다.
마무리
AI 기술은 우리 삶을 풍요롭게 만들 잠재력이 크지만 그 이면에 숨은 편향성과 혐오의 문제는 반드시 해결해야 할 과제입니다. 이번 ADL 보고서를 통해 드러난 Grok 반유대주의 대응 미흡 사례는 기술 발전 속도를 윤리적 안전 장치가 따라가지 못할 때 발생하는 부작용을 여실히 보여줍니다. 앞으로 각 기업이 어떠한 방식으로 모델을 개선해 나갈지 지속적인 관심이 필요합니다.
이어서 보면 좋은 글
#Grok반유대주의 #AI윤리 #ADL보고서 #xAI #일론머스크 #인공지능편향성 #ChatGPT비교 #Claude성능 #혐오발언차단 #생성형AI보안