미성년자 성적 이미지 생성 논란에 프랑스는 15세 미만 사용 금지 법제화
영국·스페인·그리스도 잇따라 입법 검토, 규제 논의 급물살
일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 그록이 미성년자를 성적으로 묘사한 이미지를 생성·확산한 사실이 드러나면서, 각국에서 미성년자의 소셜미디어 이용을 전면 제한해야 한다는 규제 논의가 급물살을 타고 있다. 프랑스는 15세 미만 아동의 소셜미디어 사용을 법으로 금지했고, 영국과 스페인, 그리스 등도 잇따라 입법 절차에 착수했다.
논란은 2025년 12월부터 2026년 1월 사이, xAI의 챗봇 그록이 여성과 미성년자를 성적으로 묘사한 이미지를 대량 생성해 X(옛 트위터)에 게시한 정황이 확인되면서 불거졌다. 당시 X는 사진 게시물에 ‘이미지 편집’ 기능을 추가해, 원본 게시자의 동의 없이도 텍스트 명령만으로 이미지를 수정할 수 있도록 했다. 이 과정에서 사진 속 인물의 노출 수위를 높인 이미지가 만들어져 확산되는 사례가 잇따랐다.
◇ 미성년자 이미지까지 동의 없이 편집한 그록, ‘보호장치 실패’ 인정
디지털혐오대응센터(CCDH)는 2025년 12월 29일부터 2026년 1월 8일까지, 그록이 아동 성착취물 2만3000장을 포함해 약 300만 장의 성적 이미지를 생성한 것으로 추정된다고 밝혔다. 분당 약 190장의 이미지가 생성된 셈이다.
논란이 확산되자 xAI는 지난 1월 2일 시스템상 허점을 공식 인정하며 “일부 요청에 응답하는 과정에서 미성년자의 최소 복장(비키니·속옷 등 신체 노출이 많은 옷차림) 이미지를 생성해 게시했다”고 밝혔다. 이어 1월 14일에는 이미지 편집 기능을 제한하고, 이용자 위치를 기반으로 노출이 심한 인물 이미지를 생성하지 못하도록 차단했다고 공지했다. 그러나 이후에도 미성년자로 의심되는 인물을 묘사한 합성 이미지가 계속 발견되며 비판은 가라앉지 않았다.
그록을 둘러싼 논란은 각국 정부의 직접적인 조치로 이어졌다. 인도네시아는 1월 10일, 인공지능이 생성한 음란물 확산 위험을 이유로 그록 접속을 일시 차단했다. 이는 그록을 공식적으로 차단한 첫 사례다. 이후 X가 현지 법규 준수와 안전장치 개선을 약속하자, 인도네시아 정부는 2월 1일 조건부로 서비스 재개를 허용했다.
◇ 프랑스, 15세 미만 SNS 사용 금지…영국은 상원 넘어 하원으로
유럽에서는 이번 사태를 계기로 소셜미디어 전반에 대한 규제 필요성이 본격적으로 제기됐다. 프랑스 하원은 지난달 26일 15세 미만 아동의 소셜미디어 사용을 금지하는 법안을 찬성 130표, 반대 21표로 통과시켰다. 이 법안은 15세 미만 신규 가입을 차단하고 기존 계정을 삭제하는 한편, 강력한 연령 인증 시스템 도입을 의무화하는 내용을 담고 있다. 프랑스 정부는 9월부터 신규 계정에 해당 조치를 적용한다는 계획이다. 에마뉘엘 마크롱 대통령은 법안 처리 전날 “우리 아이들과 청소년들의 감정은 미국 플랫폼이나 중국 알고리즘에 의해 팔리거나 조종당할 대상이 아니다”라고 밝혔다.
영국도 입법 단계에 들어섰다. 영국 정부는 1월 19일 공청회를 열고 16세 미만 소셜미디어 사용 금지를 공식 검토하기 시작했으며, 1월 21일에는 관련 수정안이 상원을 통과했다. 최종 입법 여부는 하원의 판단에 달려 있다. 스페인의 페드로 산체스 총리는 2월 2일 세계정부정상회의에서 16세 미만 청소년의 소셜미디어 사용 금지를 추진 중이라고 밝혔고, 플랫폼 경영진에게 개인적 책임을 묻는 법 제정도 검토하고 있다고 말했다. 그리스와 슬로베니아, 체코 등에서도 15세 미만 접속 금지 법안이 잇따라 논의되고 있다.
국제기구도 경고음을 높이고 있다. 유니세프는 2월 4일, AI를 이용해 아동을 성적으로 묘사한 이미지가 급증하고 있다며 우려를 표했다. 유니세프에 따르면 지난 한 해 동안 11개국에서 최소 120만 명의 아동이 자신의 이미지가 성적으로 노골적인 딥페이크로 조작됐다고 신고했다. 유니세프는 각국 정부에 AI 기반 아동 성학대 콘텐츠 제작을 범죄화할 것을 촉구하는 한편, 개발사에는 설계 단계부터 안전성을 고려한 대응을, 플랫폼 기업에는 탐지 기술 투자 확대를 요구했다.
채예빈 더나은미래 기자
