그록
“메타·구글 책임 인정” 플랫폼 규제 새 국면 [글로벌 이슈]

美 배심원단, 메타·구글의 ‘무한 스크롤·중독 유도’에 거액 배상 판결xAI ‘그록’ 등 생성형 AI 서비스도 성착취물 방지 의무 강화 추세 미국에서 메타와 구글의 소셜미디어 설계 책임을 인정한 배심원 평결과 메타의 아동 보호 책임을 인정한 판결이 잇따라 나왔다. 이를 계기로 IT기업 책임 논의가 콘텐츠 관리에서 플랫폼 설계와 운영 방식까지 확대되는 흐름이 나타난다. 지난 3월 25일(현지시간) 미국 캘리포니아주 로스앤젤레스 배심원단은 메타와 구글이 각각 인스타그램과 유튜브의 설계·운영 과정에서 과실이 있으며, 서비스 이용에 따른 위험을 충분히 알리지 않았다고 판단했다. 재판에서는 무한 스크롤과 자동 재생 등 이용 시간을 늘리도록 설계된 기능과 추천 구조가 쟁점이 됐다. 이러한 이용 방식이 한 젊은 이용자의 우울증과 자살 충동 등 정신 건강 문제로 이어진 것으로 봤다. 배심원단은 메타에 420만 달러(약 63억5000만 원), 구글에 180만 달러(약 27억2000만 원)의 손해배상 책임을 인정했다. 바로 전날인 3월 24일, 뉴멕시코주 법무당국이 메타를 상대로 제기한 소송에서도 배상 책임이 인정됐다. 법원은 메타가 어린 이용자들에게 플랫폼의 안전성을 충분히 설명하지 않은 채, 아동이 성적 노출이나 성범죄자 접촉 위험에 노출될 수 있는 환경을 방치했다고 판단했다. 배상액은 3억7500만 달러(약 5700억 원)에 이른다. 이 같은 판결은 지난 30년간 온라인 플랫폼을 소송으로부터 보호해 온 통신품위법 230조(Section 230) 해석에도 영향을 미친다. 이 법은 기본적으로 이용자가 올린 콘텐츠에 대해 플랫폼이 책임을 지지 않도록 하는 장치다. 그런데 최근 소송에서는 ‘무엇이 올라왔는지’보다 플랫폼이 서비스를 어떻게 설계하고 운영했는지, 또

AI가 넘은 선…미성년자 SNS 전면 규제로 번진 ‘그록 쇼크’ [글로벌 이슈]

미성년자 성적 이미지 생성 논란에 프랑스는 15세 미만 사용 금지 법제화 영국·스페인·그리스도 잇따라 입법 검토, 규제 논의 급물살 일론 머스크가 설립한 인공지능 기업 xAI의 챗봇 그록이 미성년자를 성적으로 묘사한 이미지를 생성·확산한 사실이 드러나면서, 각국에서 미성년자의 소셜미디어 이용을 전면 제한해야 한다는 규제 논의가 급물살을 타고 있다. 프랑스는 15세 미만 아동의 소셜미디어 사용을 법으로 금지했고, 영국과 스페인, 그리스 등도 잇따라 입법 절차에 착수했다. 논란은 2025년 12월부터 2026년 1월 사이, xAI의 챗봇 그록이 여성과 미성년자를 성적으로 묘사한 이미지를 대량 생성해 X(옛 트위터)에 게시한 정황이 확인되면서 불거졌다. 당시 X는 사진 게시물에 ‘이미지 편집’ 기능을 추가해, 원본 게시자의 동의 없이도 텍스트 명령만으로 이미지를 수정할 수 있도록 했다. 이 과정에서 사진 속 인물의 노출 수위를 높인 이미지가 만들어져 확산되는 사례가 잇따랐다. ◇ 미성년자 이미지까지 동의 없이 편집한 그록, ‘보호장치 실패’ 인정 디지털혐오대응센터(CCDH)는 2025년 12월 29일부터 2026년 1월 8일까지, 그록이 아동 성착취물 2만3000장을 포함해 약 300만 장의 성적 이미지를 생성한 것으로 추정된다고 밝혔다. 분당 약 190장의 이미지가 생성된 셈이다. 논란이 확산되자 xAI는 지난 1월 2일 시스템상 허점을 공식 인정하며 “일부 요청에 응답하는 과정에서 미성년자의 최소 복장(비키니·속옷 등 신체 노출이 많은 옷차림) 이미지를 생성해 게시했다”고 밝혔다. 이어 1월 14일에는 이미지 편집 기능을 제한하고, 이용자 위치를 기반으로 노출이 심한 인물 이미지를 생성하지 못하도록 차단했다고 공지했다. 그러나 이후에도 미성년자로 의심되는

‘그록’ 딥페이크 음란물 규제에 머스크 “검열 위한 핑계”

일론 머스크가 인공지능(AI) 딥페이크 음란물 규제에 나선 영국 정부를 향해 “그들은 검열을 위한 어떤 구실이든 찾고 있다”며 강하게 반발했다. 머스크가 이끄는 AI 챗봇 ‘그록(Grok)’이 X 이용자 요청에 따라 공개적으로 선정적 합성 이미지를 생성했다는 보도가 잇따르면서 각국 정부가 규제에 나섰고, 머스크가 정면 대응에 나선 것이다. 머스크는 10일(현지시간) 자신의 X 계정에 “영국 정부는 왜 이렇게 파시스트적인가”라는 글과 함께 영국의 온라인 범죄 단속 건수를 보여주는 그래프를 리트윗했다. 이어 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 주장하며 “이건 새로운 문제가 아니라 새로운 도구”라는 다른 이용자의 글도 공유했다. 머스크는 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성 이미지도 리트윗했다. 영국 정부는 X와 그록을 중심으로 딥페이크 음란물 문제가 확산되자 강경 대응에 나섰다. 리즈 켄덜 영국 기술부 장관은 9일, 방송 규제기관 오프콤(Ofcom)이 그록 문제를 이유로 X 차단을 결정할 경우 이를 지지하겠다고 밝혔다. 스타머 총리 역시 아동 성 착취 이미지의 제작·유포를 “역겹고 불법적인 행위”로 규정하며 X가 그록을 통제해야 한다고 강조했다. 2023년 11월 처음 공개된 그록은 X 계정과 연동돼 사용자가 요청하면 즉시 이미지를 생성해 주는 방식이다. 챗GPT나 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 제한하는 것과 달리, 그록은 표현의 자유를 내세워 상대적으로 느슨한 기준을 적용해 왔다. 특히 지난해 말 업데이트 이후 선정적 이미지 생성이 더욱 쉬워졌다는 지적이 이어지고 있다. 그록의 성적 이미지 합성 문제는 영국을 넘어

더나은미래 특별기획