음란물
‘그록’ 딥페이크 음란물 규제에 머스크 “검열 위한 핑계”

일론 머스크가 인공지능(AI) 딥페이크 음란물 규제에 나선 영국 정부를 향해 “그들은 검열을 위한 어떤 구실이든 찾고 있다”며 강하게 반발했다. 머스크가 이끄는 AI 챗봇 ‘그록(Grok)’이 X 이용자 요청에 따라 공개적으로 선정적 합성 이미지를 생성했다는 보도가 잇따르면서 각국 정부가 규제에 나섰고, 머스크가 정면 대응에 나선 것이다. 머스크는 10일(현지시간) 자신의 X 계정에 “영국 정부는 왜 이렇게 파시스트적인가”라는 글과 함께 영국의 온라인 범죄 단속 건수를 보여주는 그래프를 리트윗했다. 이어 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 주장하며 “이건 새로운 문제가 아니라 새로운 도구”라는 다른 이용자의 글도 공유했다. 머스크는 AI가 생성한 비키니 차림의 키어 스타머 영국 총리 합성 이미지도 리트윗했다. 영국 정부는 X와 그록을 중심으로 딥페이크 음란물 문제가 확산되자 강경 대응에 나섰다. 리즈 켄덜 영국 기술부 장관은 9일, 방송 규제기관 오프콤(Ofcom)이 그록 문제를 이유로 X 차단을 결정할 경우 이를 지지하겠다고 밝혔다. 스타머 총리 역시 아동 성 착취 이미지의 제작·유포를 “역겹고 불법적인 행위”로 규정하며 X가 그록을 통제해야 한다고 강조했다. 2023년 11월 처음 공개된 그록은 X 계정과 연동돼 사용자가 요청하면 즉시 이미지를 생성해 주는 방식이다. 챗GPT나 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 제한하는 것과 달리, 그록은 표현의 자유를 내세워 상대적으로 느슨한 기준을 적용해 왔다. 특히 지난해 말 업데이트 이후 선정적 이미지 생성이 더욱 쉬워졌다는 지적이 이어지고 있다. 그록의 성적 이미지 합성 문제는 영국을 넘어

[이희숙 변호사의 모두의 법] 성범죄 피해자는 평생 괴로운데… 음란물 사이트 운영자엔 솜방망이 처벌?

[이희숙 변호사의 모두의 법] 지난 9일 17년간 각종 성범죄의 온상이 돼온 100만 회원 음란물 공유 사이트 소라넷 운영자 A씨에 대한 1심 판결이 있었다. 소라넷은 해외 서버 운영, 주소 변경 등으로 수사망을 피해 왔지만 10만 청원 운동, 미국과 네덜란드 등지에서의 해외 공조 추격전 끝에 2016년 서버를 폐쇄했다. 그동안 소라넷으로 인해 발생한 피해는 헤아릴 수 없다. 1심 판결이 적시한 사실만 봐도 사이트 내에 ‘중년남과 애기들의 놀이터-파파러브 카페’란 이름으로 아동의 성기 사진 파일 등이 게시됐고, ‘나의 남친 게시판’에는 95개의 아동·청소년 음란물이 올라왔다. 근친상간을 암시하는 ‘근친 고백 게시판’ 등에는 655개 아동·청소년 음란물이 게시됐는데, 운영자는 이를 우수 카페로 지정해 관리하기까지 했다. 이 외에도 사이트에 게시된 소위 음란한 영상이 무려 8만7354개에 달했다. 몰래 촬영된 개인의 신체가 100만명 앞에서 유희의 대상이 되는 데 따른 피해를 생각해보라. 아동·청소년이 사이버 공간에서 성적 착취의 대상이 되고, 한번 영상이 유포되면 사실상 회수는 불가능하며, 평생 피해에 시달려야 한다. 불법 촬영물을 삭제해주는 ‘디지털 성범죄 피해자 지원센터(DSO)’에 의하면 불법 유포된 영상은 지워내도 하루 이틀 지나면 좀비처럼 다시 올라온다고 한다. 1심 판결 또한 피고인에 대한 양형을 정하며 소라넷의 존재가 우리 사회에 유형적·무형적으로 끼친 해악은 가늠조차 하기 어렵다고 판시하고 있다. 이번 1심 판결은 A씨에게 징역 4년, 80시간 성폭력 치료 프로그램 이수, 14억여원의 추징을 선고했다. 일전에 먼저 체포돼 처벌을 받은 공동 운영자 B씨는 벌금 500만원 형에 그쳤다.

더나은미래 특별기획