2022년 10월 6일(목)
서울시, 디지털 성범죄 영상 추적·삭제하는 AI 개발한다

성범죄 피해 영상물을 끝까지 추적해 삭제하는 인공지능(AI) 기술이 개발된다. 지자체가 관련 기술 개발에 나서는 건 이번이 처음이다.

서울기술연구원과 서울시는 AI 융합 기술을 활용해 성 착취물을 식별하고 삭제하는 기술 도입하기로 했다고 7일 밝혔다.

/픽사베이
/픽사베이

현재 서울시 내 디지털 성범죄 피해를 지원하는 ‘서울 디지털성범죄 안심지원센터’에서는 ‘불법 촬영물 추적시스템’의 안면인식 기술을 활용해 재유포를 차단하며 영상물을 삭제하고 있다.

이번에 개발되는 AI 기술에는 비디오, 오디오, 텍스트 데이터를 분석하는 기술이 융합 적용된다. 기존에 가능했던 영상 속 피해자 얼굴 매칭뿐 아니라 움직임 패턴과 오디오의 주파수, 대화 내용까지 복합적으로 분석할 수 있다. 서울시 관계자는 “빠르게 확산하는 피해 영상물을 감시하고 대응하기 위해서는 기술적 개선이 시급하다고 판단해 이번 기술 개발을 추진한다”고 말했다.

디지털 성범죄 영상은 삭제해도 시간이 지나면 다시 온라인 상에서 퍼질 수 있다는 특성이 있다. 서버를 바꾸거나 새로 생성한 사이트에 영상을 다시 올리는 경우가 있기 때문이다. 연구원은 이를 고려해 AI 기반의 디지털 성범죄 유해사이트 자동 검색 기능도 개발할 예정이다. 웹사이트 정보를 자동으로 추출해 게시된 영상, 이미지 등 데이터를 분석한다.

서울기술연구원은 해당 AI기술을 2023년 상반기 내에 마무리해 ‘서울 디지털성범죄 안심지원센터’의 피해 영상 추적 시스템으로 운용할 예정이다.

임성은 서울기술연구원장은 “날로 진화하는 디지털 성범죄에 대응할 수 있도록 연구원의 AI 역량을 집중할 계획”이라며 “AI 삭제지원시스템 개발을 성공적으로 마무리하고 24시간 가동할 수 있도록 해 디지털 성범죄 없는 ‘안심 서울’을 만들도록 노력할 것”이라고 말했다.

강나윤 더나은미래 인턴기자 nanasis@chosun.com

관련 기사
Copyrights ⓒ 더나은미래 & futurechosun.com
전체 댓글