카카오가 AI기반 댓글 필터링 기능인 ‘세이프봇’의 성과 분석 결과를 14일 공개했다. 2020년 12월, 카카오 뉴스 서비스에 세이프봇 도입 후 욕설이나 비속어가 포함된 댓글과 이용자가 신고한 욕설 댓글 비중 등이 크게 줄었다. 세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI기술로 분석해 자동으로 필터링하는 기능이다. 욕설과 비속어를 음표로 치환하고, 다른 이용자에게 불쾌감을 줄 수 있는 댓글이 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 완료한다. 세이프봇 적용 전인 2020년 하반기와 적용 이후인 2021년, 2022년 월평균 수치를 비교한 결과, 욕설이나 비속어가 포함된 댓글이 3분의 1수준으로 줄었다. 욕설이 포함돼 음표로 자동 치환된 댓글 수가 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소했다. 전체 댓글 중 이용자가 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 낮아졌다. 또한 이용자 신고에 의해 삭제된 욕설 댓글도 2021년 73.6%, 2022년 91.7%로 감소하며, 12분의 1수준으로 줄었다. 카카오는 이러한 결과를 세이프봇의 능동적 조치로 댓글 문화가 성숙해졌다고 분석했다. 세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자들도 자발적으로 건전한 댓글 문화에 동참하게 된 것이다. 카카오는 기술을 통해 사회문제를 해결하겠다는 목표하에, AI를 활용한 건강한 댓글 생태계 조성에 힘써왔다. 2017년 7월 욕설 음표 치환 기능을 적용했고, 2020년 12월에는 해당 기능을 고도화해 세이프봇을 시범 적용했다. 현재 포털 다음과 카카오톡 뉴스 댓글 서비스에 적용 중이다. 카카오는 AI기술을 고도화해 세이프봇 성능을 더욱 강화하겠다는 방침이다. 지난 8월