몇 해 전부터 챗GPT를 필두로 한 생성형 AI 열풍이 대단하다. 최근 중국 딥시크의 AI 개발은 시장에 또 다른 충격을 주고 있다. 필자가 지난 겨울 제네바에서 참석했던 세계 최대 기업 인권 논의의 장인 ‘유엔 기업과 인권 연례포럼’에서도 단연, 디지털 기술, AI가 기업 지속가능성과 인권에 미치는 부정적 영향의 예방과 구제 메커니즘에 관한 논의가 활발했으며, 가장 중요한 주제로 부상하고 있었다. 올해 초 열린 세계경제포럼(WEF)에서도 ‘지능형 시대를 위한 협력’을 주제로 AI 혁신, 발전, 규제에 관한 폭넓은 논의가 이뤄졌다.
이미 인공지능은 우리 삶 속으로 깊이 들어오고 있다. 과학기술의 발전, 그중에서도 인공지능은 ICT 기술 발전을 토대로 급성장하고 있으며, 제조·의료·교통·환경·교육 등 산업 전반에서 본격적으로 활용 및 확산하고 있다. 인공지능은 국가 경쟁력, 기업 혁신, 개인의 삶의 질을 높이는 중요한 기술로 떠오르고 있지만, 인간 대체, 기술 오용, 데이터 편향성과 같은 인권, 윤리 이슈도 끊임없이 제기되고 있다.
인공지능 기술의 발전과 함께 ‘AI의 윤리적 개발과 활용’ 역시 국제사회의 주요 의제가 되어 왔으며, 유엔, OECD 등 국제기구는 여러 권고와 지침을 개발하고, 정부, 기업, 연구기관 등 여러 주체가 다양한 인공지능 윤리 원칙을 발표하고 있다. 유엔 인권최고대표는 AI의 심각한 인권 위협을 경고하며, 판매·사용에 대해 유예를 촉구하기도 했다.
◇ EU의 AI 규제, 한국도 따를까
지난해 EU도 AI 시스템의 위험도에 따른 의무규정 등을 주요 내용으로 하는 포괄적 규제법인 ‘인공지능법(AI Act)’을 세계 최초로 통과시켰다. 미국과 중국이 AI 기술을 주도하고 있지만, EU는 이 법을 통해 AI 규제에 관한 국제기준을 먼저 제시했다.
EU 인공지능법은 위험도에 따라 AI 시스템을 ‘허용 불가능한 위험’, ‘고위험’, ‘제한적 위험’, ‘최소 위험’ 총 네 단계로 분류해 제한과 의무사항을 규정하고 있으며, 이에 따라 적합성 평가와 기본권 영향평가 및 투명성 의무를 부과하는 등 의무 위반 시 차등적인 벌금을 부과한다. 여기서 위험이란 AI가 생명·안전·기본권에 미칠 수 있는 잠재적 피해의 가능성과 심각성을 의미한다. 정보조작·생체데이터 오남용·개인정보 유출 등 위험성에 대해 AI사업자들의 높은 책임을 요구하고 있는 것이다. EU는 기업들의 자율적 법 준수 서약인 ‘AI 협약(AI Pact)’ 참여를 권고해, 삼성·구글·MS 등 115개사가 참여하기도 했다.
이러한 국제사회의 흐름에 따라, 몇 년 전부터 우리 정부도 여러 가지 가이드라인을 도입해 왔으며, 지난 연말 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안’이 국회를 통과해, EU에 이어 전 세계에서 두 번째로 인공지능법을 마련한 국가가 됐다. 조속한 법안의 구체화가 필요하지만, AI의 안전성, 투명성 및 책임성 확보를 위해 규제에 상당한 비중을 두고 있는 ‘EU 인공지능법’ 을 참고해 AI의 육성과 지원, 위험 예방을 위한 규제가 도입되어 산업계에 큰 영향을 미칠 것으로 예상된다.
◇ AI, SDGs 달성을 앞당길 열쇠 되려면
유엔글로벌콤팩트와 액센츄어가 최근 발표한 보고서에 따르면, AI는 기업의 지속가능발전목표(SDGs) 달성을 가속하는 혁신적 도구가 될 수 있다. 보고서는 ▲기업 운영 효율성 혁신 ▲지속가능한 가치사슬 구축 ▲녹색 금융 및 친환경 기술 개발 ▲ESG 공시와 커뮤니케이션 강화 등 네 가지 영역에서 AI의 역할을 강조했다.
그러나 AI가 SDGs 달성에 기여하려면 기업들이 해결해야 할 과제도 많다. AI 도입 과정에서 데이터 편향 문제를 해결하고, 책임 있는 거버넌스를 구축하며, 기술로 인해 소외되는 계층이 발생하지 않도록 주의해야 한다. 2023년 기준 책임 있는 AI 활용 체계를 갖춘 기업이 2%에 불과하다는 점은 우려할 만한 대목이다. 의사결정의 투명성과 책임성, 데이터 편향성과 프라이버시, 에너지 위기와 환경 영향, 디지털 격차 심화 등은 SDGs 달성을 저해할 수 있는 주요 리스크다.
◇ AI 거버넌스 구축, 더 이상 미룰 수 없다
이러한 도전 과제들을 극복하기 위해서는 유엔글로벌콤팩트의 10대 원칙에 기반한 윤리적이고 책임 있는 AI 활용이 전제되어야 하며, AI의 복잡하고 끊임없이 변화하는 기술 특성을 반영한 체계적인 AI 도입 전략이 필수적이다.
또한 기업의 기술 개발에 따른 인권 침해를 방지하기 위해서는, 지속적인 인권 실사를 통해 기술 개발 및 판매 기업이 기술 및 디지털 기업 활동과 연관된 리스크를 식별하고, 평가 및 대응 방안을 고려해야 한다. 디지털 인권 실사의 주된 기준은, 영향 평가를 실시할 때 과정과 내용 측면에서 모두 인권을 중심에 두어야 한다는 것이다. 이해관계자 참여 보장, 영향 평가 과정에서 동등한 참여, 차별 금지, 권한 부여, 투명성과 책무성이 보장되어야 하며, 영향 평가 내용 측면에서도 영향의 범위, 중대한 영향의 평가, 영향 완화 조치, 구제절차 접근성 등을 포함해야 한다.
특히 기업들은 기술 개발 관행에 있어 가장 초기 단계부터 해당 기술이 어떤 인권 영향을 발생시킬 수 있을지 고려하고, 상품 판매 대상과 그 대상이 기술을 조달받고자 하는 이유를 파악해야 하며, 가치사슬 전반에 인권에 대한 부정적 영향에 대해서도 주의 깊게 살펴보고 대응해야 한다. 최근 글로벌 투자자들은 기술 기업에 대한 기대와 우려를 표명하면서 기업들이 AI 활용과 관련해 투명한 정책과 지침 보유, 관리감독, 데이터 공시 등을 하도록 지속적으로 요구하고 있다.
2025년은 생성형 AI의 산업 내 활용이 본격화하는 전환점이 될 것으로 전망된다. 기업들은 이러한 변화에 선제적으로 대응하여 AI 거버넌스 체계를 구축하고, 기술의 혜택이 공정하게 분배될 수 있도록 디지털 인프라를 개선해야 한다. 또한 다양한 이해관계자와의 협력을 통해 SDGs 달성을 위한 생태계를 조성해야 한다. 무엇보다 기술 혁신으로 인한 인간 소외를 최소화하고, ‘사람이 중심이 되는 기술과 AI’ 활용 원칙을 지향해야 한다. 이러한 노력이 함께 이루어진다면, 생성형 AI는 지속가능한 미래를 견인하는 핵심 동력으로 자리매김할 수 있을 것이다.
이은경 유엔글로벌콤팩트한국협회 실장
| 필자 소개 세계 최대 기업 지속가능성 유엔 이니셔티브인 유엔글로벌콤팩트의 한국네트워크에서 초창기부터 일하며 실무총괄을 담당하고 있습니다. 다양한 이해관계자들과 협력하며 ESG 전반, 특히 기업과 인권, 젠더 및 DEI, 컴플라이언스 분야에 활발한 강의와 자문 등을 하고 있으며, 기업의 지속가능성 생태계를 만들고 ESG 내재화를 위해 노력하고 있습니다. |
