안락함이라는 이름의 조용한 종말
세상에서 가장 위험한 것은 적대적인 것이 아니라 지나치게 안락한 것일지도 모른다. 오늘날 AI는 놀랍도록 안락하다. 보고서를 요약하고, 코드를 짜고, 회의록을 정리하며, 내가 무엇을 원하는지 나보다 먼저 알아챈다. 영화 <터미네이터>나 <매트릭스>에서 상상하던 폭력적인 종말은 찾아오지 않았다. 대신 우리는 매일 아침 아무런 경고음도 없이 조금씩 더 편리해지는 세계에 접속하며 안주한다. 문제는 바로 그 안락함에 있다. 변화가 위협적으로 느껴질 때 인간은 저항하지만, 변화가 너무나 편안할 때 인간은 ‘적응’이라는 이름으로 고유한 주체성을 조용히 내어준다. AI 아포칼립스의 진짜 시나리오는 로봇 군단의 반란이 아니라, 인간이 스스로 생각하기를 멈추는 날에서 시작될지도 모른다.
현재 시장의 분위기는 압도적으로 낙관적이다. 전 세계 정부가 수백조 원 규모의 AI 투자 경쟁에 뛰어들고, 우리 정부 역시 AI를 국가 경쟁력의 핵심 축으로 배치하며 인프라 구축에 박차를 가하고 있다. 글로벌 기업들은 “AI를 쓰지 않는 조직은 도태된다”는 것을 상식으로 여긴다. 물론 낙관론에는 분명한 근거가 있다. 우리 역시 AI를 반대하는 쪽이 아니다. 오히려 임팩트스퀘어는 이 영역에서 누구보다 AI 전환에 앞장서고 있다고 자신한다. 그러나 바로 그렇기 때문에 그 낙관의 사각지대 역시 함께 보아야 한다. 기술이 주는 이득은 즉각적이고 가시적이지만, 그로 인한 손실은 천천히 그리고 눈에 띄지 않게 찾아온다. 우리는 AI가 만들어내는 결과물에 집중하느라 그 과정에서 AI가 서서히 지워가는 ‘인간적 맥락’을 보지 못하고 있다.
프리모템: 실패를 미리 시뮬레이션하는 예방의 기술
임팩트스퀘어가 ‘AI 아포칼립스’ 연구를 시작한 이유도 여기에 있다. 보이지 않는 손실을 먼저 확인하기 위해서다. 이를 위해 우리는 인지심리학자 게리 클라인(Gary Klein)이 제안한 실패 시뮬레이션 ‘프리모템(Premortem)’을 적용했다. 쉽게 말해 프리모템은 실패를 미리 가정해 보는 훈련이다. 아직 실패하지 않았을 때 “왜 실패했을까”를 먼저 묻는다는 점에서 이것은 두려움의 기술이 아니라 예방의 기술이다.
우리는 AI 시대의 실패를 이렇게 묻기 시작했다. 만약 2035년, AI가 사회 전반에 통합되어 모든 것이 편리해졌는데도 인류가 사회적 난제를 해결할 힘을 잃었다면 그 시작점은 어디였을까. 사람들은 더 이상 스스로 판단하지 않고, 노동은 성장과 존엄의 통로가 아니라 대체 가능한 비용 항목으로 취급되며, AI 인프라와 자본을 가진 국가와 그렇지 못한 국가의 격차는 더 벌어질 수 있다. 이대로라면 AI의 눈부신 발전 뒤에는 새로운 사회문제 또한 폭발적으로 증가할 가능성이 높다.
데이터가 읽지 못하는 ‘결핍의 문장’
AI는 역사상 가장 강력한 ‘최적화 기계’다. 클릭률과 만족도 점수를 높이는 방향으로 세상을 조정한다. 그러나 사회문제 해결의 핵심은 오히려 데이터로 포착되지 않는 영역에 있다. 고독사의 이면에는 수치화할 수 없는 외로움이 있고, 청소년 자살의 이면에는 언어화되지 않은 절망이 있으며, 지역 공동체의 위기 이면에는 효율성으로 환원되지 않는 삶의 방식이 존재한다.
결핍은 통계 바깥에서 먼저 울고 데이터는 늘 한 박자 늦게 도착한다. 그래서 우리에게 필요한 것은 양안시(兩眼視), 즉 두 눈으로 보는 시각이다. 한쪽 눈으로는 AI가 열어주는 가능성을 보되 다른 한쪽 눈으로는 AI가 보지 못하는 인간의 결핍을 응시해야 한다.
인간성 종자 은행: 우리가 보존해야 할 씨앗들
노르웨이 스발바르 제도의 지하에는 ‘국제 종자 저장고’가 있다. 문명이 흔들리더라도 식물 생태계를 복원할 씨앗을 남겨두기 위한 시설이다. 최근 임팩트스퀘어 전사 워크숍에서 우리는 이 이미지를 빌려 ‘인간성 종자 은행’이라는 개념을 도출했다. AI 시대에도 결코 마모되어서는 안 될 인간성의 정수를 어디에, 어떻게 저장할 것인가에 대한 고민이다.
우리가 저장해야 할 씨앗에는 우선 효율을 따지지 않고 타인의 고통에 반응하는 비합리적 다정함이 있다. 사회는 종종 자립준비청년에게 내민 조건 없는 손길과 같은 비효율적인 다정함에 의해 구원받기 때문이다. 또한 AI가 제시하는 정교한 답 앞에서도 “이것이 정말 옳은가?”라고 반문하는 의문형 저항과, 데이터 패턴이 아닌 책임져야 할 개인의 ‘얼굴’을 떠올리는 맥락적 공감 역시 보존해야 할 핵심 자산이다. 마지막으로 효율성이 지배하는 세상에서 계산기 너머의 꿈을 꾸는 무모함과 낭만을 지켜내야 한다. 결국 사회를 움직이는 결정적 변화는 늘 이 ‘비효율’의 영역에서 발생해왔음을 우리는 잊지 말아야 한다.
땅이 굳기 전에 씨앗을 심어야 한다
이제 이 질문은 각 조직의 경영 과제가 되어야 한다. 임팩트 비즈니스 리더들에게 제안하고 싶다. 각자의 조직에서 프리모템을 수행해보라. 우리 조직이 속한 영역에서 AI 활용이 극대화됐을 때 동시에 상실하게 될 가장 인간적인 가치는 무엇인가. 어떤 새로운 사회문제가 생기고 기존의 사회문제 중 무엇이 더 큰 폭풍이 될 것인가. 그리고 그 가치를 지키기 위해 우리는 지금 어떤 씨앗을 저장해야 하는가.
AI 아포칼립스를 상상하는 이유는 두려움 때문이 아니다. 마주하고 나서 대응하면 이미 늦기 때문이다. 씨앗은 언제나 땅이 굳기 전에 심어야 한다. 그리고 사랑하지 않는 것의 종말은 상상조차 되지 않는다. 우리가 인간성의 종말을 치열하게 시뮬레이션하는 이유는 여전히 인간다운 세계를 뜨겁게 사랑하기 때문이다. 기술은 고도화되고 있다. 지금 우리에게 필요한 것은 그에 걸맞은 인간성의 전략적 보존이다.
도현명 임팩트스퀘어 대표
필자소개
임팩트스퀘어 대표이자 임팩트 투자자, 액셀러레이터입니다. 소셜벤처 투자·육성, 대기업 ESG 신사업 개발, 임팩트 비즈니스 전략 수립, 지역 기반 프로젝트 설계, 사회적 가치 측정과 평가 등 다양한 영역에서 활동해 왔습니다. 최근에는 베트남, 인도네시아, 일본 등으로 활동 무대를 넓히며 글로벌 확장에 힘쓰는 한편, AI 시대의 변화와 새로운 기회를 연구하고 있습니다.
