딥페이크
AI가 넘은 선…미성년자 SNS 전면 규제로 번진 ‘그록 쇼크’ [글로벌 이슈]

미성년자 성적 이미지 생성 논란에 프랑스는 15세 미만 사용 금지 법제화 영국·스페인·그리스도 잇따라 입법 검토, 규제 논의 급물살 일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 그록이 미성년자를 성적으로 묘사한 이미지를 생성·확산한 사실이 드러나면서, 각국에서 미성년자의 소셜미디어 이용을 전면 제한해야 한다는 규제 논의가 급물살을 타고 있다. 프랑스는 15세 미만 아동의 소셜미디어 사용을 법으로 금지했고, 영국과 스페인, 그리스 등도 잇따라 입법 절차에 착수했다. 논란은 2025년 12월부터 2026년 1월 사이, xAI의 챗봇 그록이 여성과 미성년자를 성적으로 묘사한 이미지를 대량 생성해 X(옛 트위터)에 게시한 정황이 확인되면서 불거졌다. 당시 X는 사진 게시물에 ‘이미지 편집’ 기능을 추가해, 원본 게시자의 동의 없이도 텍스트 명령만으로 이미지를 수정할 수 있도록 했다. 이 과정에서 사진 속 인물의 노출 수위를 높인 이미지가 만들어져 확산되는 사례가 잇따랐다. ◇ 미성년자 이미지까지 동의 없이 편집한 그록, ‘보호장치 실패’ 인정 디지털혐오대응센터(CCDH)는 2025년 12월 29일부터 2026년 1월 8일까지, 그록이 아동 성착취물 2만3000장을 포함해 약 300만 장의 성적 이미지를 생성한 것으로 추정된다고 밝혔다. 분당 약 190장의 이미지가 생성된 셈이다. 논란이 확산되자 xAI는 지난 1월 2일 시스템상 허점을 공식 인정하며 “일부 요청에 응답하는 과정에서 미성년자의 최소 복장(비키니·속옷 등 신체 노출이 많은 옷차림) 이미지를 생성해 게시했다”고 밝혔다. 이어 1월 14일에는 이미지 편집 기능을 제한하고, 이용자 위치를 기반으로 노출이 심한 인물 이미지를 생성하지 못하도록 차단했다고 공지했다. 그러나 이후에도 미성년자로 의심되는

‘그록’ 딥페이크 음란물 규제에 머스크 “검열 위한 핑계”

일론 머스크가 인공지능(AI) 딥페이크 음란물 규제에 나선 영국 정부를 향해 “그들은 검열을 위한 어떤 구실이든 찾고 있다”며 강하게 반발했다. 머스크가 이끄는 AI 챗봇 ‘그록(Grok)’이 X 이용자 요청에 따라 공개적으로 선정적 합성 이미지를 생성했다는 보도가 잇따르면서 각국 정부가 규제에 나섰고, 머스크가 정면 대응에 나선 것이다. 머스크는 10일(현지시간) 자신의 X 계정에 “영국 정부는 왜 이렇게 파시스트적인가”라는 글과 함께 영국의 온라인 범죄 단속 건수를 보여주는 그래프를 리트윗했다. 이어 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 주장하며 “이건 새로운 문제가 아니라 새로운 도구”라는 다른 이용자의 글도 공유했다. 머스크는 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성 이미지도 리트윗했다. 영국 정부는 X와 그록을 중심으로 딥페이크 음란물 문제가 확산되자 강경 대응에 나섰다. 리즈 켄덜 영국 기술부 장관은 9일, 방송 규제기관 오프콤(Ofcom)이 그록 문제를 이유로 X 차단을 결정할 경우 이를 지지하겠다고 밝혔다. 스타머 총리 역시 아동 성 착취 이미지의 제작·유포를 “역겹고 불법적인 행위”로 규정하며 X가 그록을 통제해야 한다고 강조했다. 2023년 11월 처음 공개된 그록은 X 계정과 연동돼 사용자가 요청하면 즉시 이미지를 생성해 주는 방식이다. 챗GPT나 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 제한하는 것과 달리, 그록은 표현의 자유를 내세워 상대적으로 느슨한 기준을 적용해 왔다. 특히 지난해 말 업데이트 이후 선정적 이미지 생성이 더욱 쉬워졌다는 지적이 이어지고 있다. 그록의 성적 이미지 합성 문제는 영국을 넘어

혐오·딥페이크, 청소년이 직접 해결책 찾는다…‘2024 청소년 성문화 공론장’ 열린다

시립아하!청소년성문화센터(이하 아하!센터)가 오는 23일 서울 하자센터 999클럽에서 ‘2024 청소년 성문화 공론장’을 개최한다. 이번 공론장은 청소년들이 직접 참여해 혐오 표현과 딥페이크와 같은 디지털 성범죄 문제를 논의하는 자리로 마련됐다. 공론장은 ‘청소년의 성교육과 일상 속 성문화 실태’를 주제로 진행된다. 12세부터 24세까지 다양한 연령대의 청소년들이 참가해 자신의 성교육 경험과 일상 속 혐오 표현 및 디지털 성범죄에 대해 이야기한다. 특히 청소년의 관점에서 필요한 성교육과 디지털 성범죄 대응 방안을 직접 제안할 예정이다. 1부에서는 ‘청소년과 함께하는 토크쇼’가 열린다. 초·중·고등학생 패널이 사전에 진행된 설문조사 결과를 바탕으로 토론하며 청소년들의 생각을 심도 있게 나눌 계획이다. 2부에서는 ‘참여자 조별 토론’이 진행돼 참가자들이 소그룹으로 의견을 교환하고 이를 바탕으로 요구사항을 발표한다. 이명화 아하!센터 센터장은 “딥페이크 성범죄는 청소년이 가해자나 피해자로 얽히는 사례가 많아 심각성이 크다”며 “이번 공론장이 청소년들이 당사자의 시각으로 문제를 바라보고 해결방안을 함께 고민하는 뜻깊은 기회가 되길 바란다”고 말했다. 조기용 더나은미래 기자

지난 1일 서울 용산구 한남동에서 배달 오토바이들이 대기하고 있다. /연합뉴스
딥페이크·배달알바에 노출된 청소년…권익 보호 대책 시급

성범죄로 악용될 수 있는 딥페이크 기술로부터 청소년 권익이 크게 위협받고 있다는 지적이 나왔다. 또 열악한 배달 아르바이트에 뛰어드는 청소년의 권익 보호를 위한 대책도 시급한 것으로 나타났다. 16일 여성가족부에 따르면 최근 한국청소년정책연구원은 ‘제4차 청소년보호 종합대책(2022~2024) 수립을 위한 기초연구’ 보고서를 여가부에 제출했다. 청소년보호종합대책은 3년을 주기로 청소년을 둘러싼 유해환경의 실태·양상을 파악하고 청소년을 보호하기 위해 수립하는 범정부 청소년보호 대책이다. 이번 기초연구 보고서는 물리적 환경 내에서 구분돼왔던 각 유해환경의 영역이 온라인 매체를 매개로 확산하면서 더 복잡하고 다양해지고 있다고 분석했다. 특히 연구진이 주목한 것은 ‘딥페이크’(특정 인물의 얼굴 등을 인공지능 기술을 이용해 특정 영상에 합성한 편집물), ‘알페스’(실존 인물을 사용해서 쓴 동성애 음란물 패러디) 등을 통한 합성영상물이다. 보고서는 “청소년들이 놀이의 방식으로 접근하는 합성영상물 중 일부는 여성을 성적대상화하는 등의 성범죄 문제와 연계된다”고 지적했다. 연구진은 “놀이나 장난을 넘어선 범죄라는 개념으로의 인식 개선을 위해 구체적 사례를 제시한 예방·대처 프로그램을 마련이 필요하다”고 했다. 배달·운전 아르바이트 등 급증하는 특수고용 직종 근무 청소년에 대한 근로권익 보호 방안도 담겼다. 여가부가 지난 3월 발표한 ‘2020 청소년 매체이용 및 유해환경 실태조사’에 따르면 배달·운전 아르바이트를 경험한 청소년의 비율은 2018년 0.5%에서 지난해 15.2%로 대폭 상승했다. 또 이들의 44.4%는 배달대행 앱에서 호출이나 주문을 받는 ‘플랫폼 노동’에 종사한 것으로 나타났다. 보고서는 청소년 근로권익 보호를 위한 대책으로 ▲배달청소년 보험 지원대책 ▲청소년 노동에 대한 근로복지공단 역할 강화 ▲청소년 고용 사업주 대상 근로노동법 인식개선

더나은미래 특별기획