기업·정부·국회 “인간의 통제권과 노동자 안전 함께 확보해야”
인공지능(AI)이 산업 현장과 기업 경영 전반으로 빠르게 확산하는 가운데, 기술 혁신과 함께 노동자의 안전과 권리를 보호하고 AI에 대한 통제 체계를 마련해야 한다는 목소리가 나왔다. 특히 AI가 스스로 판단하고 업무를 수행하는 시대에는 인간이 개입해야 할 기준을 명확히 하고, 기술 발전의 혜택이 특정 기업이나 계층에 집중되지 않도록 제도적 기반을 갖춰야 한다는 지적이다.
3일 오전 서울 그랜드 하얏트에서 열린 ‘코리아 리더스 서밋 2026(Korea Leaders Summit 2026·KLS 2026)’에서 이 같은 논의가 진행됐다. 유엔글로벌콤팩트(UNGC) 한국협회가 ‘책임 있는 AI와 기업 지속가능성’을 주제로 개최한 이번 행사에는 국제기구 고위급 인사와 국내외 지속가능성 전문가, 기업·정부·학계·시민사회 관계자 등 600여 명이 참석했다.
UNGC는 2000년 유엔 주도로 출범한 세계 최대 규모의 기업 지속가능성 이니셔티브다. 전 세계 160여 개국에서 2만5000여 기업·기관이 참여하고 있으며, 국내 회원사는 약 350곳이다. 인권·노동·환경·반부패 분야의 10대 원칙을 바탕으로 기업의 지속가능경영과 유엔 지속가능발전목표(SDGs) 이행을 지원한다.
이날 ‘AI 기반 혁신과 지속가능한 미래’를 주제로 진행된 패널토론에서는 윤국진 한국과학기술원(KAIST) AI대학장 겸 AI연구원장이 좌장을 맡았다. 김경만 국가인공지능전략위원회 지원단장, 신계영 삼성SDS AI사업팀장(부사장), 김영옥 HD현대 인공지능최고책임자(CAIO), 황정아 국회의원이 참여해 AI가 바꾸는 산업 현장과 기술 확산에 따른 안전·인권 문제, 정부와 기업의 대응 과제를 논의했다. 주요 발언을 정리했다.
김영옥 HD현대 인공지능최고책임자(CAIO)
“조선소에는 용접과 도장 등 오랜 경험을 쌓은 숙련공들이 있다. 하지만 고령화로 이들이 은퇴하면 현장에서 축적한 기술과 노하우도 사라질 수 있다. 우리는 AI를 사람을 대체하는 기술이 아니라 산업의 지식과 경험을 다음 세대로 전달하는 도구로 보고 있다. 숙련공의 기술을 AI로 체계화해 외국인 근로자나 신규 인력이 필요할 때 활용할 수 있도록 하는 것이다. AI가 활성화될수록 기술 도입뿐 아니라 변화 관리와 직원 교육에도 더 많은 투자가 필요하다. 특히 조선소처럼 사람의 신체 안전과 직결되는 현장에서는 AI가 어디까지 자율적으로 판단할 수 있는지 명확히 정해야 한다. 판단이 불확실한 상황에서는 반드시 멈추고 사람에게 통제권을 넘겨야 한다.”
신계영 삼성SDS AI사업팀장(부사장)
“공공기관에서는 AI가 민원 내용을 분석해 담당 부서를 찾고 관련 법령을 확인하는 업무까지 지원하고 있다. 기업의 콜센터에서도 상담 내용을 자동으로 요약하고, 상담원에게 필요한 답변을 실시간으로 제안하는 방식으로 AI 활용이 확대되고 있다. 하지만 AI가 업무를 대신 수행하게 되면 새로운 관리 체계가 필요하다. 기존에는 직원이 어떤 시스템에 접근할 수 있는지만 관리했다면, 이제는 AI 에이전트가 어떤 정보에 접근하고 어떤 업무를 수행할 수 있는지도 통제해야 한다. AI 에이전트에도 직원처럼 고유한 ID와 권한을 부여하는 방안이 논의되고 있다. AI 사용량과 비용을 파악하고 관리하는 것도 중요하다.”
황정아 더불어민주당 의원
“대한민국은 자동차·반도체·조선 등 제조업에서 강점을 가진 나라다. 이러한 산업 역량과 데이터를 활용하면 피지컬 AI 분야에서도 경쟁력을 확보할 수 있다. 피지컬 AI는 자율주행차나 로봇처럼 현실 공간에서 직접 움직이고 행동하는 AI다. 그런데 로봇이 사람과 부딪히거나 사고를 일으켰을 때 개발자와 제조사, 사용자 중 누가 책임져야 할지 등 새로운 문제가 발생한다. 내가 대표 발의한 피지컬 AI 특별법에는 여러 부처에 흩어진 인허가 절차를 간소화하고, 기업이 새로운 기술을 시험할 수 있도록 규제 특례와 투자 지원을 마련하는 내용이 담겨 있다. 다만 AI라는 이유만으로 모든 기술에 똑같은 규제를 적용해서는 안 된다. 국민의 안전에 중대한 영향을 미치는 분야에는 엄격한 기준을 적용하되, 안전조치를 충실히 이행한 기업의 노력도 제도적으로 인정해야 한다. 무엇보다 AI가 확산하는 산업 현장에서 노동자의 안전과 권리가 보호될 수 있도록 해야 한다.”
김경만 국가인공지능전략위원회 지원단장
“AI 기술의 발전이 경제 성장과 사회 전반의 혁신에 기여할 수 있다는 점은 분명하다. 하지만 그 과정에서 기술을 활용하기 어려운 계층이 소외되거나 AI로 인한 피해가 발생할 가능성도 함께 살펴야 한다. AI 확산의 성과를 평가할 때 단순히 기술 도입률이나 경제적 효과만 볼 것이 아니라 국민들이 실제로 얼마나 활용하고 있는지, 이용 과정에서 격차는 없는지 확인해야 한다. 경제적 여건이나 디지털 활용 능력에 관계없이 누구나 AI의 혜택을 누릴 수 있어야 한다. 지속가능한 AI 사회를 위해서는 기술의 발전뿐 아니라 부작용에 대응하고, 소외되는 사람 없이 AI를 활용할 수 있는 사회적 기반을 마련하는 것이 중요하다.”
조유현 더나은미래 기자
