공짜로 인공지능(AI)을 쓸 수 있다면 일손이 부족한 비영리기관에는 반가운 제안이다. 상담 기록을 정리하고 신청서를 분류하는 일을 덜 수 있으니, 그만큼 주민을 만날 여유도 생길 것이다. 나 역시 이런 기술 기부가 현장에 도움이 되기를 바란다. 다만 받는 입장이라면 반드시 물어야 할 질문이 있다. 문제가 생겼을 때, 우리가 멈출 수 있는가.
설명을 위해 가상의 지역 복지기관을 떠올려보자. 한 기업이 상담 기록을 요약하고 지원 신청서를 분류하는 시스템을 무료로 제공한다. 직원들은 반복 업무를 줄이고 주민을 만나는 데 더 많은 시간을 쓸 수 있게 된다.
그러다 어느 날, 한 주민이 지원 우선순위에서 밀린다. 직원은 그 이유를 설명하지 못하고, 주민에게는 사람의 재판단을 요청할 통로도 없다. 이후 이용료가 올라 다른 시스템으로 옮기려 하지만, 필요한 기록을 가져가기도 어렵다. 무료로 받았던 도구가 오히려 기관의 발목을 잡는 상황이다.
공익을 위한 자발적 나눔과 실천인 필란트로피를 나는 이 지점에서도 평가하고 싶다. 현장에 필요한 도구를 건넸는지뿐 아니라, 현장이 그 도구의 판단을 거부하고 다른 길을 선택할 수 있는지도 살펴보자는 것이다. 선의로 시작한 지원도 받는 쪽의 선택권을 좁힐 수 있기 때문이다.
◇ 무료 이용권만으로는 부족하다
이런 문제는 도입을 결정한 뒤에야 눈에 띄기 쉽다. 미국 존슨센터는 2024년 발표한 분석에서 저가·무료 인공지능 도구가 늘면서 기술 도입의 문턱은 낮아졌지만, 이를 책임 있게 활용하기 위한 시간과 조직 역량이 중요해졌다고 진단했다.
내 관심은 그다음에 드는 비용에 있다. 결과를 검토할 사람과 개인정보를 보호할 체계, 다른 서비스로 옮길 예산도 필요하다. 이용권을 받았다고 해서 이런 비용까지 사라지는 것은 아니다.
기술을 사용하는 일과 내부 원칙을 마련하는 일 사이의 간격은 조사에서도 드러난다. 지원기관 기술협회(Technology Association of Grantmakers)가 2024년 발표한 해외 재단 조사에서 인공지능을 어느 수준으로든 사용한다는 응답은 81%였다. 반면 인공지능 사용 정책을 갖췄다는 응답은 30%에 그쳤다. 도구를 사용하는 것과 별개로 기관 차원의 검토와 책임체계를 갖춰야 한다는 점을 생각하게 한다.
물론 이 숫자만으로 인공지능 때문에 피해가 발생했다고 말할 수는 없다. 해외 재단의 자기보고 자료이며, 한국의 현황에 그대로 적용할 수도 없다. 다만 우리 기관에서 누가 도구를 사용하고 있는지, 그 결과를 누가 검토하고 책임지는지는 함께 확인해볼 만하다.
◇ 인공지능은 누구의 결정을 대신하는가
운영 원칙이 필요한 이유는 인공지능의 역할이 단순히 문서를 빠르게 정리하는 데 그치지 않기 때문이다. 모금 대상을 추천하고 지원서를 평가하며 사업 성과를 분류하는 데 활용되면, 누가 기회를 얻는지에도 영향을 미친다. 과거에 선정된 조직과 사업의 특징을 따라 높은 점수를 준다면 새로운 현장은 또다시 밀려날 수 있다. 과거의 선택을 잘 재현한다고 해서 앞으로의 공익까지 올바르게 판단하는 것은 아니다.
이는 기술을 받는 쪽만의 문제도 아니다. 필란트로피는 인공지능 개발에 자금을 대고, 기술을 시험할 현장을 제공하며, 공익사업과의 협력을 통해 기업의 신뢰를 높여줄 수 있다. 기업에도 제품을 개선하고 새로운 이용자를 만날 기회가 생긴다.
서로 이익을 얻는 협력 자체가 문제라는 뜻은 아니다. 어떤 이익이 오가는지 투명하게 드러내고 조정해야 한다는 의미다. 주민의 정보와 지역사회가 쌓아온 신뢰를 기부자가 마음대로 내줄 수 있는 재산처럼 여겨서는 곤란하다.
따라서 재단의 지원도 기술 도입에만 머물러서는 안 된다. 장애인의 접근성을 높이고, 시장에서 충분히 지원받지 못하는 언어와 지역을 돕는 일에도 자원을 배분할 필요가 있다. 기술을 독립적으로 검증하고 피해를 바로잡는 역량 역시 지원 대상이 될 수 있다.
포드재단 등이 참여한 공익연합 휴머니티 에이아이(Humanity AI)는 2026년 5월 인공지능 정책연구와 탐사보도, 지역사회 참여 등을 지원하는 데 1800만 달러 이상을 투입한다고 발표했다. 아직 성과를 단정할 수는 없지만, 기술을 사용하는 사람뿐 아니라 기술의 방향을 묻는 사람에게도 자원을 배분한다는 점은 참고할 만하다.
◇ 멈추는 권한은 누구에게 있는가
기술의 방향까지 묻기 시작하면 결국 누가 중단을 결정할 수 있는가라는 질문에 닿는다. 위험한 작동을 멈추는 장치가 바로 ‘킬 스위치(Kill Switch)’다.
유럽연합(EU)의 인공지능법 제14조는 고위험 인공지능 시스템에 대한 인간의 감독을 의무화하고 있다. 감독자는 인공지능의 판단을 무시하거나 변경할 수 있고, 필요한 경우 시스템을 안전하게 중단할 수 있어야 한다. 고위험 인공지능에 적용되는 규정이지만, 공익 지원사업에서도 인간의 개입을 실질적인 권한과 절차로 마련해야 한다는 원칙을 참고할 수 있다.
그렇다고 중단 버튼 하나만 있다고 안심할 일은 아니다. 버튼을 누를 수 있는 사람이 공급기업뿐이라면 현장은 여전히 기다려야 한다. 기부자가 지원을 중단할 때 필수서비스까지 멈춘다면, 중단권은 오히려 받는 쪽을 압박하는 힘이 될 수 있다.
나는 이러한 차이를 ‘안전·지배·민주적 킬 스위치’라는 세 가지 구분으로 살펴보려 한다.
이러한 장치를 마련할 때 반드시 지켜야 할 조건이 있다. 인공지능 기능을 꺼도 사람의 상담과 지원은 계속돼야 한다는 것이다. 긴급 상황에서는 현장 담당자가 먼저 작동을 멈출 수 있어야 한다. 중단이 길어지거나 시스템을 다시 가동할 때는 그 사유를 설명하고 당사자의 의견을 반영해야 한다.
나는 시민의 인공지능 주권도 이처럼 구체적인 선택에서 찾고 싶다. 자신에게 영향을 미치는 판단을 이해하고, 이의를 제기하며, 위험한 사용의 중단을 요구하고, 다른 방법을 선택할 수 있는 능력과 권한이다.
국내 기술을 사용한다는 사실만으로 이런 권한이 생기지는 않는다. 외국 기술을 사용하더라도 이를 검증하고 다른 서비스로 옮길 역량을 갖추면 의존을 줄일 수 있다. 프로그램을 구성하는 명령문이 공개돼 있더라도 이를 운영할 사람과 재원이 없다면 현장에서 활용하기 어렵다.
◇ 지원협약과 예산에서 챙겨야 할 일
이러한 선택권을 보장하려면 좋은 취지를 명시하는 것만으로는 부족하다. 한국의 재단이라면 지원협약에서부터 구체적인 조건을 정할 수 있다.
데이터를 어떤 목적으로 수집하고 어디까지 재사용할 수 있는지, 보관·삭제·이전은 어떻게 할 것인지 명시하자. 사람의 권익에 영향을 미치는 판단에는 설명 절차와 사람에 의한 재심을 마련해야 한다. 기술 사용을 거부했다는 이유로 필수 지원에서 배제되지 않도록 대체 경로도 정해두어야 한다.
당사자의 참여 역시 여기서 한 걸음 더 나아가야 한다. 만족도를 묻는 데 그치지 않고, 어떤 정보와 판단에 기술을 활용할 것인지 중요한 사용 기준을 정하는 과정에도 참여할 수 있어야 한다. 도움을 받는 주민에게 결과만 통보하고 기준은 기관과 기업이 모두 정한다면, 결정권을 나눴다고 보기 어렵다.
협약에 이런 조건을 담았다면 예산도 뒷받침돼야 한다. 개발비와 이용권만 지원한 채 검증 인력과 보안, 유지관리, 직원 교육은 현장이 알아서 감당하도록 한다면 작은 기관에는 버거운 기부가 될 수 있다. 공급자를 변경하는 데 드는 비용도 빠뜨려서는 안 된다. 지원이 종료된 뒤 누가 운영을 이어갈 것인지, 대체 절차는 실제로 작동하는지까지 도입 단계에서 함께 확인해야 한다.
그렇다고 작은 비영리기관마다 이 모든 준비를 개별적으로 감당하라고 할 수는 없다. 여러 재단이 기술 검증과 계약 검토를 공동으로 지원하고, 교육과 운영 기반을 함께 마련하는 방법이 있다. 실패 사례와 유지비, 다른 서비스로 옮긴 경험을 공유하면 뒤에 시작하는 기관의 시행착오도 줄일 수 있다.
다만 공유해야 할 것은 운영 지식과 방법이다. 그 과정에서 주민의 민감정보까지 함께 흘러나가지 않도록 주의해야 한다.
◇ 기부자가 떠난 뒤를 생각하자
공동의 지원 기반을 마련할 때도 재단 자신의 권력을 점검하는 일을 빼놓아서는 안 된다. 기술기업의 영향력을 점검하자는 재단이라면, 자기 지원 조건에 대한 질문도 받아야 한다. 지원 대상을 선정하는 기준과 판단 근거를 공개하고 이해충돌을 관리하자. 현장이 지원 조건에 이의를 제기할 수 있는 통로도 열어두어야 한다. 선의를 믿어달라고 말하기에 앞서, 이를 확인할 방법부터 마련하자는 뜻이다.
성과평가 역시 그만큼 달라져야 한다. 도입 기관 수와 처리 속도도 필요한 지표지만, 그것만으로는 현장에 어떤 힘이 남았는지 알기 어렵다. 불이익을 받은 주민이 설명을 듣고 재심을 받을 수 있었는지, 기관이 공급자를 바꿀 수 있는지, 지원이 끝난 뒤에도 상담과 서비스가 이어지는지를 함께 살펴야 한다.
기부가 만들어낸 변화는 도구를 얼마나 널리 보급했는지뿐 아니라, 그 이후 현장이 무엇을 할 수 있게 됐는지에서도 드러난다.
처음의 복지기관으로 돌아가보자. 시스템이 주민의 우선순위를 잘못 판단했을 때 담당자는 작동을 멈추고 다시 살필 수 있어야 한다. 주민은 사람에게 상담을 요청할 수 있어야 하고, 기업이 떠나더라도 기관은 기록을 옮겨 지원을 이어갈 수 있어야 한다. 나는 기술 기부를 평가할 때 이러한 준비가 돼 있는지부터 확인하고 싶다.
좋은 기부라면 기부자가 떠난 뒤에도 현장에 스스로 판단할 힘을 남겨야 한다. 기술을 건넬 때는 그 판단에 이의를 제기하고, 작동을 멈추고, 다른 방법을 선택할 권한도 함께 남기자. 그 권한을 받는 쪽과 나눌 수 있는지, 나는 기부를 결정하기 전에 먼저 묻고 싶다.
비케이 안(Bekay Ahn) 한국기부문화연구소 소장
필자 소개
한국기부문화연구소 소장이자 ICNPM(국제비영리협의회) 대표로, 기금조성전문가 양성과 모금 컨설팅에 힘쓰고 있습니다. 아시아 최초의 국제공인 기금조성전문가(CFRE)로, CFRE 보드멤버와 AFP 국제분과위원을 역임했습니다. 고려대학교 의과대학 특임교수로 활동했으며, 한양대학교에 국내 최초로 한국어 교양과목 ‘필란트로피의 이해와 실천’을 개설했습니다. 사회복지공동모금회 모금위원과 서울대병원·아산병원·고대병원 모금자문위원 등을 지냈다. 저서로는 '모금학 개론(2020)', '필란트로피 산업론(2018)', '착한 요청의 비밀(2012)' 등이 있습니다.
