정재승 KAIST 교수, 책임 있는 AI 의사결정 강조 “비용 절감 넘어 환경·노동·사회적 가치까지 고려해야” “AI가 왜 그런 결정을 내렸는지 알 수 없는데도 성과를 위해 따라야 하는 상황이 벌어질 수 있습니다. 하지만 문제가 발생하면 최종 책임은 AI가 아닌 인간이 져야 합니다.” 정재승 한국과학기술원(KAIST) 뇌인지과학과 교수는 3일 서울 그랜드 하얏트에서 열린 ‘코리아 리더스 서밋 2026(Korea Leaders Summit 2026·KLS 2026)’에서 AI 시대 기업의 의사결정이 직면한 위험을 이같이 설명했다. 이날 정 교수는 ‘기업 지속가능성을 위한 AI와 책임 있는 의사결정’을 주제로 강연했다. 이번 행사에는 국제기구와 기업·정부·학계·시민사회 관계자 등 600여 명이 참여했다. ◇ “AI 판단 이해 못한 채 따라갈 수도”…이세돌·알파고 사례로 경고 정 교수는 바둑기사 이세돌 9단과 알파고의 사례를 소개하며 AI의 판단을 무조건 따르는 것이 위험하다고 경고했다. 2016년 이세돌 9단과 대결한 알파고는 인간의 기보를 학습했지만, 이후 등장한 ‘알파고 제로’는 인간의 기보 없이 스스로 바둑을 두며 실력을 높였다. 정 교수는 최근 이세돌 9단과 나눈 대화를 소개하며 “과거에는 바둑에서 패해도 어느 수에서 실수했는지 복기할 수 있었지만, AI의 수준이 높아지면서 왜 그런 판단을 했는지조차 이해하기 어려워졌다”고 설명했다. 그는 기업 경영에서도 비슷한 상황이 발생할 수 있다고 경고했다. AI가 방대한 데이터를 분석해 매출과 이익을 높이는 전략을 제시하면 경영진이 그 근거를 이해하지 못하면서도 결과만 따르게 될 수 있다는 것이다. 정 교수는 “AI의 판단 과정을 투명하게 살펴보고, 인간이 책임 있게 의사결정에 참여해야 한다”고
