오픈AI가 소프트웨어의 보안 취약점을 찾아내고 실제 악용 가능성까지 검증하는 인공지능(AI) 모델을 내놓았다.
오픈AI는 5일(현지시간) 사이버보안 특화 AI 모델 ‘GPT-6 사이버(GPT-6 Cyber)’를 출시했다고 밝혔다.
해당 모델은 대규모 소프트웨어 코드에서 보안 취약점을 찾아내고 실제 공격이 가능한지 검증하며, 문제 해결을 위한 수정안까지 제시하도록 개발됐다.
특히 오픈AI는 GPT-6 사이버의 공격 수행 능력을 자체 안전성 평가체계인 ‘준비태세 프레임워크(Preparedness Framework)’에서 최고 단계인 ‘치명적(Critical)’으로 분류했다.
이전 모델의 ‘높음(High)’보다 한 단계 높아진 것으로, 고도로 보안이 강화된 시스템에서도 사람의 개입 없이 작동 가능한 제로데이 공격 코드를 개발할 수 있는 역량을 갖췄다는 의미한다.
오픈AI에 따르면 알려진 취약점을 실제로 악용할 수 있는지 평가하는 ‘익스플로잇짐(ExploitGym)’에서 GPT-6 사이버는 48.5%의 성공률을 기록했다. 이전 모델의 32.1%보다 16.4%포인트 높은 수치다. 실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 ‘리모트익스플로잇벤치(RemoteExploitBench)’ 초기 평가에서는 과제의 95%를 완료했다.
한편 오픈AI는 모델의 공격 역량이 고도화된 만큼 일반 이용자에게는 공개하지 않기로 했다. 우선 고급 사이버보안 연구를 수행하도록 승인받은 ‘데이브레이크 레드(Daybreak Red)’ 고객 중 일부에게만 API와 코덱스(Codex)를 통해 제공하고, 향후 전체 승인 고객으로 확대할 예정이다.
또한 신원 확인과 접근권한 제한, 고위험 사이버 활동 차단, 악용 탐지 등 안전장치를 적용해 핵심 인프라와 필수 서비스에 심각한 피해를 초래할 수 있는 요청을 제한한다.
금윤호 더나은미래 기자
