초록우산 이슈브리프 플랫폼 ‘사전 위험평가 제도’ 도입 필요성 제기
아동·청소년이 이용하는 디지털 플랫폼에서 유해 콘텐츠 노출이 반복되고 있지만, 이를 관리·통제할 제도적 장치는 여전히 사후 대응에 머물러 있다는 지적이 제기됐다. 신고와 삭제 중심의 대응으로는 알고리즘을 통해 확산되는 유해 콘텐츠를 막기 어렵다는 것이다.
초록우산이 지난 10일 발간한 이슈브리프에서 아동·청소년 보호를 위해 ‘플랫폼 위험평가 제도’ 도입이 필요하다고 밝혔다. 문제의 핵심은 개별 콘텐츠가 아니라, 유해 콘텐츠가 반복적으로 노출되는 플랫폼의 구조와 설계 자체에 있다는 주장이다.
초록우산이 지난해 말 만 14세 이상 중·고등학생 1000명을 대상으로 실시한 설문조사에 따르면, 쇼트폼 플랫폼을 이용하는 아동·청소년의 53.4%가 이용 중 유해 콘텐츠를 접한 경험이 있다고 답했다. 유입 경로의 80.3%는 추천 알고리즘이었다. 이용자가 직접 검색하지 않아도 알고리즘에 의해 유해 콘텐츠가 노출되는 구조가 작동하고 있다는 의미다.
노출된 유해 콘텐츠 유형을 보면 성 관련 콘텐츠가 42.7%로 가장 많았고, 섭식장애, 마약·도박, 자살·자해 관련 콘텐츠가 뒤를 이었다. 이는 단순한 일탈 콘텐츠를 넘어, 아동·청소년의 안전과 정신 건강에 직접적인 영향을 미칠 수 있는 영역이다.
초록우산은 가상 아동 계정을 활용한 실증 실험 결과도 함께 공개했다. 만 14세로 설정된 계정에서 성 관련 게시물과 자살·자해를 암시하는 콘텐츠가 별도의 검색 없이 추천 피드에 노출됐고, 일부 콘텐츠는 대출 광고나 성인 웹툰 사이트로 연결됐다. 연령 설정만으로는 위험을 차단하기 어려운 현실을 보여주는 사례다.
이러한 문제의식은 해외에서는 이미 제도화 단계에 접어들었다. 영국과 유럽연합(EU)은 플랫폼 사업자가 불법·유해 콘텐츠 유통 가능성과 서비스 설계상의 위험 요소를 사전에 평가하고, 이를 개선하도록 의무화하는 ‘플랫폼 위험평가’ 제도를 도입했다. 개별 게시물 삭제가 아니라, 위험을 만들어내는 구조 자체를 점검하겠다는 접근이다.
반면 국내 제도는 여전히 사후 규제에 머물러 있다. 불법·유해 콘텐츠가 발견된 이후 신고와 삭제, 처벌에 초점이 맞춰져 있어 알고리즘 추천 구조나 서비스 설계에 대한 사전 점검 장치는 부족하다는 평가가 나온다. 플랫폼 책임을 어디까지 요구할 것인가를 둘러싼 사회적 합의도 충분히 이뤄지지 않았다.
초록우산은 이슈브리프에서 ▲독립된 평가기관을 통한 위험평가 ▲평가 결과의 공개와 감독 ▲미이행 시 제재 강화 등을 제도 도입의 핵심 조건으로 제시했다. 플랫폼의 자율에 맡길 것이 아니라, 공적 기준과 감독 체계를 마련해야 한다는 주장이다.
황영기 초록우산 회장은 “플랫폼 위험평가 제도는 디지털 환경에서 아동·청소년을 보호하는 효과적인 안전장치가 될 수 있다”며 “아동·청소년이 보다 안전하게 플랫폼을 이용할 수 있도록 제도 개선 노력을 이어가겠다”고 말했다.
한편 ‘플랫폼 위험평가 제도’ 도입을 포함한 정보통신망법 개정안과 불법·유해콘텐츠에 대한 신속 대응 체계 강화를 위한 전기통신사업법 개정안은 조인철 더불어민주당 의원이 대표 발의해 국회에서 논의 중이다.
김규리 더나은미래 기자
