‘코리아 리더스 서밋 2026’서 책임 있는 AI 전략 제시
“기술 혁신과 인간 중심 원칙 함께 가야”
“기업들이 AI 거버넌스와 규제 대응에 투자하면 기술 혁신이 더뎌질 것이라고 생각하지만, 그렇지 않습니다. 책임 있는 AI에 투자하면 위험을 줄이고 고객의 신뢰를 확보할 뿐 아니라 혁신을 가속화하고 실질적인 성과까지 창출할 수 있습니다.”
이수정 한국IBM 대표이사는 3일 서울 그랜드 하얏트에서 열린 ‘코리아 리더스 서밋 2026(Korea Leaders Summit 2026·KLS 2026)’ 기조연설에서 이같이 강조했다. AI가 기업 경영 전반으로 확산하면서 기술 도입뿐 아니라 이를 안전하게 통제하고 관리하는 체계가 기업 경쟁력의 핵심 요소로 떠오르고 있다는 설명이다.
◇ AI 거버넌스 투자, 기업 성과로 이어져
IBM은 1911년 설립된 글로벌 정보기술(IT) 기업으로, 기업용 AI와 클라우드, 컨설팅 등을 주요 사업으로 한다. 2018년 AI 윤리 원칙을 공식화했으며, 자체 기술을 실제 업무에 적용하면서 책임 있는 AI 운영 체계를 구축해 왔다.
이 대표이사는 IBM 조사 결과를 인용해 CEO의 71%가 고객 신뢰를 기업 성공의 중요한 요인으로 꼽았지만, 자사의 AI 거버넌스 수준이 업계 최고 수준이라고 평가한 비율은 21%에 그쳤다고 설명했다.
AI 거버넌스는 AI가 어떤 데이터를 활용하고, 어떤 근거로 판단하는지 관리하며, 잘못된 결과가 발생했을 때 책임 소재를 명확히 하는 체계다. 특히 스스로 업무를 수행하는 ‘에이전틱 AI(Agentic AI)’가 확산하면서 편향된 판단, 개인정보 유출, 의도하지 않은 행동 등의 위험을 관리하는 것이 중요해지고 있다.
이 대표이사는 AI 거버넌스에 투자한 기업 사례도 소개했다. 브라질 대형 은행 방코두브라질(Banco do Brasil)은 IBM 등과 협력해 AI 모델의 작동 상태를 실시간으로 점검하고 이상 징후를 사전에 경고하는 체계를 구축했다. 인도 IT 기업 인포시스(Infosys)는 AI 활용에 따른 위험을 평가하고, 유럽연합(EU) AI법에 맞춰 위험 수준별 관리 기준을 적용했다.
IBM 자체 사례도 공개했다. IBM은 개발한 AI를 외부 고객에게 제공하기 전 직접 활용하며 문제점을 개선하는 ‘클라이언트 제로(Client Zero)’ 전략을 추진하고 있다. 2023년부터 재무·인사·마케팅·법무 등 내부 업무에 AI를 도입하고, 약 18만 명의 직원이 참여해 1만1000개 이상의 AI 에이전트를 구현·실험했다. 이를 통해 2023년부터 2025년까지 약 45억 달러 규모의 생산성 향상 효과를 거뒀다고 밝혔다.
이 대표이사는 “AI 거버넌스는 기술 발전을 막는 규제가 아니라 위험을 줄이고 신뢰를 확보해 혁신을 가속화하는 기반”이라며 기술 부서뿐 아니라 법무·개인정보 보호·위험 관리 조직이 함께 참여하는 통합 관리 체계의 필요성을 강조했다.
◇ 오픈AI “AI의 혜택, 소수 아닌 모두에게 돌아가야”
영상으로 특별 메시지를 전한 크리스 리헤인 오픈AI(OpenAI) 글로벌 대외협력 최고책임자도 AI 기술의 발전이 사회 전체의 발전으로 이어져야 한다고 강조했다.
리헤인은 AI를 불과 바퀴, 전기처럼 사회 전반을 변화시키는 ‘범용기술’에 비유하면서도 기술의 발전이 반드시 인류의 발전을 의미하지는 않는다고 지적했다. 그는 “AI의 혜택이 소수 기업이나 집단에 집중되지 않도록 접근 기회를 확대하고, 기술 개발과 활용 과정에서 인권을 비롯한 기본 원칙을 지켜야 한다”고 말했다.
특히 기업이 AI를 직원 대체 수단이 아닌 역량 강화 도구로 활용해야 한다고 강조했다. 리헤인은 AI를 능숙하게 활용하는 직원의 생산성이 그렇지 않은 직원보다 7배 높을 수 있다는 점을 언급하며, 직원 교육과 재훈련의 중요성을 짚었다. 또한 AI 안전은 일회성 점검이 아니라 개발부터 운영까지 전 과정에 적용해야 한다고 설명했다.
그는 “AI가 우리의 미래를 결정하는 것이 아니라 사람과 제도, 기업과 리더가 미래를 결정한다”며 “AI를 단순히 더 강력한 기술이 아닌 인간에게 더 유익한 기술로 발전시켜야 한다”고 당부했다.
◇ UNGC, 책임 있는 AI와 지속가능경영 논의
이번 서밋은 유엔글로벌콤팩트(UNGC) 한국협회가 ‘책임 있는 AI와 기업 지속가능성’을 주제로 개최한 행사로, 국제기구와 기업·정부·학계·시민사회 관계자 등 600여 명이 참여했다. UNGC는 2000년 유엔 주도로 출범한 세계 최대 규모의 기업 지속가능성 이니셔티브다. 전 세계 160여 개국에서 기업과 시민사회·학계 등 2만5000여 기관이 참여하고 있으며, 국내 회원사는 약 350곳이다. 참여 기업들이 인권·노동·환경·반부패 분야의 10대 원칙을 경영에 반영하고 유엔 지속가능발전목표(SDGs)를 이행하도록 지원한다.
이태식 UNGC 한국협회 회장은 개회사에서 “AI는 강력한 평등의 도구가 될 수도 있지만 심각한 불평등을 초래할 수도 있다”며 글로벌 차원의 안전장치와 인간의 개입을 통한 통제 체계 마련을 강조했다.
반기문 전 유엔 사무총장은 축사에서 “AI가 기후위기 대응과 빈곤 퇴치에 기여할 잠재력이 있는 동시에 막대한 에너지 소비와 노동시장 변화 등의 문제를 안고 있다”고 지적하며 기업의 과제로는 AI를 활용한 기후위기 대응, 사람 중심의 정의로운 전환, 책임 있는 AI 거버넌스 구축을 제시했다.
이날 UNGC 한국협회는 마이크로소프트와 공동 추진하는 ‘책임 있는 AI 프로젝트(AIR)’도 선보였다. 기업이 AI를 도입할 때 직원들의 일자리와 인권을 보호하고, 새로운 기술에 적응할 수 있도록 지원하는 사업이다. 이를 위해 기업·공공기관을 위한 AI 활용 지침과 직원 교육 콘텐츠를 개발하고, AI 확산에 따른 노동시장 변화와 대응 과제를 발굴해 정책 제언으로 연결할 계획이다.
조유현 더나은미래 기자
