미국 정부가 인공지능(AI)을 공공정책에 도입하는 속도가 눈에 띄게 빨라지고 있다. 미 연방정부는 2022회계연도에만 인공지능 관련 조달 계약에 20억 달러(한화 약 2조9200억 원)를 썼다. 불과 5년 전보다 두 배 이상 늘어난 액수다. 국가 안보부터 복지 행정까지, AI는 이미 다양한 분야에 투입되고 있다.
이처럼 막대한 공공 자금이 인공지능에 투입되는 시점에서 반드시 짚고 넘어가야 할 사실이 있다. 인공지능 도입 자체는 쉬울 수 있지만, 인공지능을 정확하고 공정하게 잘 쓰는 일은 결코 간단하지 않다는 점이다. 미국의 다양한 사례는 이 사실을 명확히 보여준다.
최근 챗GPT와 같은 생성형 인공지능을 통해 AI가 대중의 관심을 받고 있지만, 사실 미국 공공 부문에서 인공지능을 활용한 알고리즘 기반 업무 자동화는 수십 년 전부터 이어져 왔다.
◇ 성공한 AI와 실패한 AI의 차이는?
대표적인 사례는 미국 우정공사다. 약 52만 명의 직원을 둔 미국 최대의 공공기관 중 하나인 우정공사는 하루 평균 3억1800만 통의 우편물을 전국에 전달한다. 따라서 업무 효율화를 통한 비용 절감은 이 기관의 큰 과제다. 1990년대, 우정공사는 손으로 쓴 우편번호를 자동 분류하기 위해 신경망 기반 인공지능 기술을 도입했다. 이 시스템은 매일 약 5500만 통의 수기 주소 우편물을 98퍼센트 이상의 정확도로 처리했고, 1997년 한 해에만 1억 달러, 약 1460억 원의 비용을 절감했다. 이 사례는 잘 정의된 문제에 적절하게 설계된 인공지능이 막대한 공공 가치를 창출할 수 있음을 보여준다.
반면, 미시간주의 실업수당 시스템은 인공지능이 잘못 설계될 경우 어떤 피해가 발생할 수 있는지를 여실히 보여준다. 미시간 주정부는 2013년부터 2015년 사이, 실업수당 부정 수급을 방지하기 위해 자동화된 부정 수급 탐지 시스템(MiDAS)를 운영했다. 그러나 이 시스템이 지목한 약 6만3000명의 부정 수급자 중 4만 명 이상이 사실과 다른 혐의를 받았다. 피해자들은 수만 달러의 벌금 고지서와 소득 압류 등 심각한 경제적 손실을 입었다. 한 피해자는 5만 달러, 약 7300만 원의 벌금을 통보받은 후 자살했다. 결국 미시간주는 집단소송 끝에 오류를 인정하고 기존 시스템을 폐기했다.
이 두 사례의 차이는 기술 수준에서 비롯된 것이 아니다. 2010년대의 기술이 1990년대보다 뒤처졌다고 보기는 어렵다. 결정적인 차이는 문제의 성격과 적용된 맥락에 있다. 우편번호 분류는 비교적 단순한 작업이다. 반면, 실업수당 자격 판정은 수십 쪽에 달하는 법률과 규정을 해석하고 적용해야 하는 복잡한 행정 업무다. 실제로 미시간주 실업수당 신청자 안내서는 59쪽에 달하며, 자격 요건부터 신청 절차, 수급자의 책임까지 매우 상세한 내용을 담고 있다. 해당 업무를 수행하는 공무원조차 수개월간의 교육과 실습을 통해 업무를 익혀야 한다. 기술은 발전했지만, 행정 현실은 여전히 인공지능이 쉽게 넘을 수 없는 복잡성과 맥락을 지닌다.
◇ AI의 유연함, 강점이자 위험
인공지능은 유연성이 크다는 점에서 정책 도구로서 매력적이다. 전기나 인터넷처럼, 인공지능은 다양한 상황과 목적에 따라 달리 쓰일 수 있는 범용 기술(general purpose technology)이다. 실제로 복지, 교육, 치안 등 다양한 공공 영역에서 인공지능이 이미 사용되고 있다. 그 범위는 앞으로도 확장될 가능성이 크다.
하지만 바로 이 유연성이 인공지능의 강점이자 취약점이다. 어디에나 적용할 수 있다는 것은 어디에나 잘 적용될 수 있다는 뜻은 아니다. 공공 부문에서 인공지능은 흔히 경제적 효율성과 기술적 중립성을 명분으로 도입된다. 사람을 쓰는 것보다 인공지능을 쓰는 것이 비용이 적게 들고, 인간의 편견보다 인공지능의 편향은 쉽게 수정될 수 있다는 믿음이 작동한다. 그 결과, 예산과 인력이 부족하고 정치적 부담이 큰 분야, 특히 사회적 약자가 주로 의존하는 복지나 치안 영역에 우선 적용되는 경우가 많다.
그러나 이런 민감한 정책 환경에 대한 충분한 이해와 감독 없이 기술을 도입하면, 문제는 오히려 더 심각해질 수 있다. 데이터에 내재된 편향이 공권력을 통해 현실에 지우기 어려운 영향을 미치며, 역사적 불의가 자동화되고, 기존의 불평등이 확대된다.
실제로 이런 사례는 이미 존재한다. 1990년대 미국 경찰은 ‘컴스탯(CompStat)’이라는 범죄 데이터 분석 시스템을 도입해 자원을 재배치했다. 이후 2000년대에는 이 시스템이 예측형 경찰 시스템으로 발전했다. 그러나 이 전산화, 자동화는 경찰이 흑인과 라틴계가 밀집한 지역에 반복적으로 순찰을 보내며 기존의 감시와 처벌 구조를 강화했고, 결국 기술이 공공 신뢰를 훼손하는 결과로 이어졌다.
우리가 이런 역사를 기억해야 하는 이유는, 과거를 잊는 순간 같은 실수를 반복하게 되기 때문이다. 인공지능을 정책에 도입하기 전, 우리는 이 기술을 왜 도입하는지, 잘 작동했을 때 누가 이득을 보는지, 잘못 작동했을 때 누가 피해를 입는지, 문제가 발생했을 때 책임은 누구에게 있으며 그 책임은 어떻게 실현되는지를 물어야 한다.
공공 영역에서 인공지능을 도입하는 일은 점점 더 쉬워지고 있다. 그러나 기술의 성능만으로는 복잡한 행정 현실과 사회적 책임을 감당할 수 없다. 인공지능이 어떤 결과를 낳을지는 기술 자체가 아니라, 우리가 그것을 어떤 문제에 어떻게 적용하느냐에 따라 달라진다.
혁신은 수단이지 목적이 아니다. 기술은 효율을 높일 수 있지만, 공정함을 보장하지 않는다. 우리는 무엇을 자동화할지 결정할 때, 그로 인해 누구의 삶이 어떻게 달라질지를 함께 물어야 한다. 인공지능이 공공을 위한 빛이 될지, 새로운 그늘이 될지는 우리 사회가 어떤 선택을 하고, 어떤 책임을 실천하느냐에 달려 있다.
김재연 미국의 공공 영역 데이터 과학자
| 필자 소개 학계와 실무를 모두 경험한 미국의 공공 영역 데이터 과학자입니다. 존스홉킨스 SNF 아고라 연구소의 연구교수이며 하버드 케네디 스쿨 공공 리더십 센터의 연구위원입니다. 이전에는 미국의 대표적 시빅 테크 단체인 코드 포 아메리카(Code for America)의 데이터 과학자로 미국 정부와 협력하여 가난한 사람들이 더 쉽고, 빠르고, 편하게 복지 혜택을 누리도록 돕는 일을 했습니다. 한국에서는 KDI 정책대학원에서 데이터 과학 담당 교수로 일했고, 공익 목적의 데이터 과학을 소개하기 위해 ‘우리에게는 다른 데이터가 필요하다(세종서적 2023)’란 책을 썼습니다. UC 버클리에서 정치학 박사 학위를 수여했고, 미국 정치학회(APSA)로부터 도시, 지역 정치 부문 최우수 박사학위상(2022), 시민참여 부문 신진학자상(2024)을 받았습니다. |
