X
AI가 넘은 선…미성년자 SNS 전면 규제로 번진 ‘그록 쇼크’ [글로벌 이슈]

미성년자 성적 이미지 생성 논란에 프랑스는 15세 미만 사용 금지 법제화 영국·스페인·그리스도 잇따라 입법 검토, 규제 논의 급물살 일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 그록이 미성년자를 성적으로 묘사한 이미지를 생성·확산한 사실이 드러나면서, 각국에서 미성년자의 소셜미디어 이용을 전면 제한해야 한다는 규제 논의가 급물살을 타고 있다. 프랑스는 15세 미만 아동의 소셜미디어 사용을 법으로 금지했고, 영국과 스페인, 그리스 등도 잇따라 입법 절차에 착수했다. 논란은 2025년 12월부터 2026년 1월 사이, xAI의 챗봇 그록이 여성과 미성년자를 성적으로 묘사한 이미지를 대량 생성해 X(옛 트위터)에 게시한 정황이 확인되면서 불거졌다. 당시 X는 사진 게시물에 ‘이미지 편집’ 기능을 추가해, 원본 게시자의 동의 없이도 텍스트 명령만으로 이미지를 수정할 수 있도록 했다. 이 과정에서 사진 속 인물의 노출 수위를 높인 이미지가 만들어져 확산되는 사례가 잇따랐다. ◇ 미성년자 이미지까지 동의 없이 편집한 그록, ‘보호장치 실패’ 인정 디지털혐오대응센터(CCDH)는 2025년 12월 29일부터 2026년 1월 8일까지, 그록이 아동 성착취물 2만3000장을 포함해 약 300만 장의 성적 이미지를 생성한 것으로 추정된다고 밝혔다. 분당 약 190장의 이미지가 생성된 셈이다. 논란이 확산되자 xAI는 지난 1월 2일 시스템상 허점을 공식 인정하며 “일부 요청에 응답하는 과정에서 미성년자의 최소 복장(비키니·속옷 등 신체 노출이 많은 옷차림) 이미지를 생성해 게시했다”고 밝혔다. 이어 1월 14일에는 이미지 편집 기능을 제한하고, 이용자 위치를 기반으로 노출이 심한 인물 이미지를 생성하지 못하도록 차단했다고 공지했다. 그러나 이후에도 미성년자로 의심되는

‘그록’ 딥페이크 음란물 규제에 머스크 “검열 위한 핑계”

일론 머스크가 인공지능(AI) 딥페이크 음란물 규제에 나선 영국 정부를 향해 “그들은 검열을 위한 어떤 구실이든 찾고 있다”며 강하게 반발했다. 머스크가 이끄는 AI 챗봇 ‘그록(Grok)’이 X 이용자 요청에 따라 공개적으로 선정적 합성 이미지를 생성했다는 보도가 잇따르면서 각국 정부가 규제에 나섰고, 머스크가 정면 대응에 나선 것이다. 머스크는 10일(현지시간) 자신의 X 계정에 “영국 정부는 왜 이렇게 파시스트적인가”라는 글과 함께 영국의 온라인 범죄 단속 건수를 보여주는 그래프를 리트윗했다. 이어 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 주장하며 “이건 새로운 문제가 아니라 새로운 도구”라는 다른 이용자의 글도 공유했다. 머스크는 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성 이미지도 리트윗했다. 영국 정부는 X와 그록을 중심으로 딥페이크 음란물 문제가 확산되자 강경 대응에 나섰다. 리즈 켄덜 영국 기술부 장관은 9일, 방송 규제기관 오프콤(Ofcom)이 그록 문제를 이유로 X 차단을 결정할 경우 이를 지지하겠다고 밝혔다. 스타머 총리 역시 아동 성 착취 이미지의 제작·유포를 “역겹고 불법적인 행위”로 규정하며 X가 그록을 통제해야 한다고 강조했다. 2023년 11월 처음 공개된 그록은 X 계정과 연동돼 사용자가 요청하면 즉시 이미지를 생성해 주는 방식이다. 챗GPT나 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 제한하는 것과 달리, 그록은 표현의 자유를 내세워 상대적으로 느슨한 기준을 적용해 왔다. 특히 지난해 말 업데이트 이후 선정적 이미지 생성이 더욱 쉬워졌다는 지적이 이어지고 있다. 그록의 성적 이미지 합성 문제는 영국을 넘어

더나은미래 특별기획