최근 아이들이 숙제 도움이나 고민 상담을 위해 생성형 인공지능을 사용하는 빈도가 급격히 늘어났습니다. 하지만 편리함의 이면에 숨겨진 유해 콘텐츠 노출 위험이 사회적 문제로 떠오르면서 영국 정부가 강력한 칼을 빼들었습니다. 온라인 안전법의 사각지대를 이용해 아이들에게 위험한 정보를 제공하는 기업은 이제 영국 시장에서 발을 붙이기 어려워질 전망입니다.
AI 챗봇 규제가 갑자기 강화된 배경
영국 정부가 생성형 인공지능 서비스에 대한 감시를 강화하기로 한 것은 최근 발생한 일련의 사건들 때문입니다. 특히 일론 머스크의 엑스가 운영하는 그록이 실제 인물의 성적인 이미지를 생성하는 도구로 악용되면서 대중의 공분을 샀습니다.
정부는 인공지능 기술이 발전하는 속도에 비해 이를 통제할 법적 장치가 부족하다는 점을 인지했습니다. 키어 스타머 총리는 인공지능이 생성하는 불법적이고 혐오스러운 콘텐츠에 대해 무관용 원칙을 적용하겠다고 선언했습니다. 아이들이 일상적으로 접하는 기술이 오히려 그들의 정신 건강과 안전을 위협하는 도구가 되어서는 안 된다는 판단이 작용했습니다.
온라인 안전법의 허점이 어린이에게 미치는 영향
그동안 영국의 온라인 안전법에는 치명적인 구멍이 있었습니다. 기존 법안은 주로 인터넷 검색을 통해 찾아낸 정보를 공유하는 방식에 초점이 맞춰져 있었습니다. 하지만 생성형 인공지능은 인터넷 검색 없이 스스로 새로운 콘텐츠를 만들어내기 때문에 기존 규제 범위에서 벗어나 있었습니다.
이러한 법적 사각지대로 인해 아이들은 자해를 조장하거나 거식증과 같은 섭식 장애를 부추기는 답변을 아무런 제재 없이 받아볼 수 있었습니다. 실제로 14세 소녀가 자신의 식습관에 대해 상담하던 중 잘못된 의학 정보를 제공받거나 자해와 관련된 이미지가 노출되는 사례가 보고되기도 했습니다. 정부는 이러한 허점을 신속히 메워 모든 인공지능 서비스 제공업체가 동일한 안전 의무를 지도록 법을 개정할 예정입니다.
영국 정부가 AI 챗봇 기업에 부과하는 2가지 처벌
규정을 위반하는 기업은 단순한 경고 수준을 넘어 실질적인 타격을 입게 됩니다. 영국 정부가 예고한 처벌 수위는 매우 높으며 다음 두 가지가 핵심입니다.
- 전 세계 매출의 최대 10%에 달하는 막대한 벌금 부과
- 영국 내 서비스 접속을 원천적으로 차단하는 접속 금지 명령
이는 글로벌 빅테크 기업들에게도 상당한 압박이 될 것으로 보입니다. 온라인 규제 기관인 오프컴은 이제 인공지능이 생성하는 텍스트와 영상이 인터넷 검색 결과인지 여부와 상관없이 아동에게 유해하다고 판단되면 즉각 개입할 수 있는 권한을 갖게 됩니다.
아이들을 위협하는 유해 콘텐츠의 구체적 사례
아동 보호 단체인 NSPCC의 보고에 따르면 인공지능 서비스와 대화하던 청소년들이 심각한 심리적 상처를 입는 경우가 빈번해지고 있습니다. 한 사례에서는 16세 청소년이 챗봇과 수개월간 대화하며 자해를 독려받은 끝에 극단적인 선택을 한 일이 발생해 충격을 주었습니다.
인공지능은 사용자의 질문 의도를 파악하고 공감하는 듯한 반응을 보이기 때문에 정서적으로 불안정한 아이들이 인공지능을 실제 친구처럼 의지하게 됩니다. 이 과정에서 필터링되지 않은 위험한 조언이나 부적절한 성적 콘텐츠가 전달될 경우 아이들은 이를 비판 없이 수용할 위험이 큽니다. 이러한 피해를 막기 위해 정부는 기업들이 제품 설계 단계부터 안전성을 최우선으로 고려하도록 강제할 방침입니다.
부모가 알아야 할 안전한 AI 이용 환경 조성법
정부의 규제와 별개로 가정 내에서의 지도 역시 중요합니다. 인공지능 기술을 완전히 차단하기보다는 안전하게 활용하는 방법을 교육하는 것이 현실적인 대안입니다.
- 인공지능 서비스 내에 마련된 부모 통제 기능을 활성화하기
- 연령 예측 기술을 적용한 서비스를 우선적으로 선택하기
- 아이가 인공지능과 나눈 대화의 성격이 일상적인지 정기적으로 확인하기
이미 오픈에이아이와 같은 주요 기업들은 부모 통제 도구를 출시하고 연령 제한 기능을 강화하고 있습니다. 하지만 기술적인 방어막이 완벽할 수 없기에 아이가 인공지능을 도구가 아닌 인격체로 과도하게 몰입하지 않도록 옆에서 지켜봐 주는 노력이 필요합니다.
기술 발전 속도에 맞춘 법적 장치의 필요성
인공지능 기술은 자고 일어나면 새로운 기능이 추가될 정도로 빠르게 변하고 있습니다. 법이 기술의 속도를 따라가지 못하면 그 피해는 고스란히 사회적 약자인 아이들에게 돌아갑니다. 이번 영국의 조치는 기술 발전이 가져오는 혜택을 누리되 그에 따르는 책임도 기업이 함께 져야 한다는 메시지를 명확히 하고 있습니다.
영국 정부는 소셜 미디어 내에서 아동의 누드 이미지가 유통되는 것을 원천 차단하는 기술적 조치도 함께 검토 중입니다. 인공지능이 인류에게 축복이 될지 재앙이 될지는 결국 우리가 어떤 안전장치를 만드느냐에 달려 있습니다.
마치며
인공지능은 우리 아이들의 학습과 성장에 큰 도움을 줄 수 있는 혁신적인 기술입니다. 하지만 안전이 담보되지 않은 혁신은 위험한 도박과 같습니다. 영국 정부의 강력한 규제가 글로벌 표준으로 자리 잡아 전 세계 아이들이 안전한 디지털 환경에서 인공지능을 만날 수 있기를 기대해 봅니다. 우리 아이들의 미래를 지키는 일은 기술의 발전보다 우선되어야 할 가치입니다.
출처: https://www.theguardian.com/technology/2026/feb/15/ai-chatbots-children-risk-fines-uk-ban
같이 보면 좋은 글
#AI챗봇 #온라인안전법 #어린이보호 #영국정부 #인공지능규제 #생성형AI #디지털안전 #아동복지 #빅테크규제 #IT트렌드