딥페이크·AI 챗봇 등 새로운 위험 대응과 입법·제도 개선 방향 모색
아동복지전문기관 초록우산은 ‘인공지능 환경에서의 아동·청소년 권리 보장을 위한 국회 정책토론회’를 개최했다고 2일 밝혔다.
이번 토론회는 인공지능(AI) 기술의 급속한 발전으로 딥페이크, 허위정보, AI 챗봇에 대한 정서적 의존 등 아동·청소년이 직면할 수 있는 새로운 위험에 대응하고, AI 환경에서 이들의 권리를 보장하기 위한 입법·제도 개선 방안을 논의하기 위해 마련됐다.
토론회는 초록우산과 더불어민주당 조인철 의원, 국민의힘 최형두 의원, 조국혁신당 이해민 의원이 공동 주최했으며, 과학기술정보통신부와 방송통신위원회, 국가인공지능전략위원회, 국제인공지능윤리협회가 후원했다.
기조강연은 ‘왜 지금, 인공지능과 아동권리인가’를 주제로 박형빈 서울교육대학교 윤리교육과 교수가 맡았다. 박 교수는 안전한 AI 사회를 위한 법·윤리적 과제를 제시하며 AI 환경에서 아동·청소년 권리 보장의 중요성을 강조했다.
이어 강영은 초록우산 사내변호사가 ‘인공지능 서비스 이용자인 아동·청소년의 권리 보장’을 주제로 발표했다. 강 변호사는 해외 입법 사례를 소개하며 국내 법·제도 개선 방향을 제안했다.
종합토론은 박미애 국제인공지능윤리협회 부회장이 좌장을 맡아 진행했다. 토론에는 김판 국민일보 기자, 조수현 계명대학교 교육학과 교수, 신혜진 서울남부지방검찰청 부장검사, 김나정 국회입법조사처 입법조사관보, 김하나 국가인공지능전략위원회 사회분과 위원, 김혜숙 방송통신위원회 인공지능이용자보호과장, 최우석 과학기술정보통신부 인공지능안전신뢰지원과장이 참석했다.
참석자들은 AI 챗봇에 대한 정서적 의존, 딥페이크 콘텐츠 제작, 알고리즘 기반 유해정보 노출 등 AI 환경에서 발생하는 다양한 위험으로부터 아동·청소년을 보호하기 위한 정책 과제와 대응 방안을 논의했다.
조인철 더불어민주당 의원은 “오늘날 아동들은 인공지능과 함께 성장하는 ‘AI 네이티브’ 세대로, 이들의 권리와 안전을 보장하기 위한 정책 마련이 시급하다”며 “기술 발전에 따른 부작용을 예방하고 아동권리를 최우선으로 보장하는 안전한 디지털 환경을 만들기 위해 국회 차원의 입법·제도적 안전망을 구축해 나가겠다”고 말했다.
황영기 초록우산 회장은 “인공지능 기술이 아동의 삶과 성장환경을 빠르게 변화시키는 만큼 기술이 가져올 수 있는 위험과 서비스 제공자의 사회적 책임도 함께 논의돼야 한다”며 “초록우산은 AI 시대에도 아동 최선의 이익과 아동권리가 보장되는 환경을 만들기 위해 노력하겠다”고 말했다.
한편 초록우산은 2023년부터 디지털 환경에서의 아동권리 보장을 위한 온라인 세이프티 활동을 이어오고 있다. 올해 1월에는 유엔아동권리위원회(CRC)와 국제전기통신연합(ITU)의 공동성명에 참여해 AI 설계 전 과정에서 아동권리를 최우선으로 고려해야 한다는 원칙을 지지했다.
채예빈 더나은미래 기자
