"AI는 책임지지 않아요"···'더' 무거워진 리더의 어깨

AI 시대 리더 핵심 역량은 '변화 대응력' 44.0%

응답자 57.9% "AI 의사결정 책임은 최종 결정자"

전문가 "AI 결과 끊임없이 검증···판단은 사람 몫"

그래픽=이찬희 기자(제미나이 활용)

#2024년 캐나다 항공사 에어캐나다는 인공지능(AI) 챗봇의 잘못된 안내로 고객에게 배상하라는 결정을 받았다. AI가 제공한 정보에 오류가 있었지만 그 책임은 챗봇을 운영한 기업에 있다는 판단이었다.

사건은 고객이 가족의 장례식 참석을 위해 항공권을 구매하는 과정에서 시작됐다. 에어캐나다의 AI 챗봇은 항공권 구매 후에도 할인 운임을 소급 적용받을 수 있다고 안내했지만 실제 규정은 달랐다. 에어캐나다는 챗봇의 안내에 대한 책임을 부인했으나 캐나다 브리티시컬럼비아주 민사분쟁해결심판소는 이를 받아들이지 않고 총 812.02캐나다달러의 배상을 명령했다.

AI가 기업의 업무와 의사결정 과정에 깊숙이 들어오면서 리더의 역할과 책임도 재조명되고 있다. 단순히 기술을 활용하는 것을 넘어 AI가 제시한 결과를 검증하고 최종 판단을 내리는 능력이 중요해지고 있기 때문이다. 특히 직장인 절반 이상은 AI를 활용한 의사결정에서 문제가 발생할 경우 최종 의사결정자인 리더가 책임져야 한다고 보는 것으로 나타났다.

뉴스웨이가 직장인 200명을 대상으로 진행한 'AI가 바꾸는 일과 조직' 설문조사에서 AI 시대 리더에게 가장 필요한 역량으로 '변화 대응력'을 꼽은 응답자가 44.0%로 가장 많았다. '데이터·AI 활용 능력'은 25.2%로 뒤를 이었다.

AI 기술을 능숙하게 다루는 것만큼 급변하는 환경에 대응하고 조직을 이끄는 능력이 중요하다는 인식이 반영된 것으로 풀이된다. AI가 업무의 일부를 대신하는 상황에서 리더에게는 기술 활용을 넘어 조직의 방향을 설정하고 변화에 대응하는 역할이 요구되는 셈이다.

리더에게 기대하는 역할에서도 비슷한 흐름이 나타났다. AI 시대 리더의 중요한 역할로 'AI를 통한 조직의 업무 효율성 향상'을 꼽은 응답자가 35.2%로 가장 많았다. 이어 'AI가 제시한 정보와 결과를 검증·판단하는 역할'이 30.2%를 차지했다. AI를 활용해 업무 효율을 높이는 동시에 그 결과가 타당한지 살펴보고 최종 판단을 내리는 능력도 중요하게 평가된 것이다.

무엇보다 AI를 활용한 의사결정에서 문제가 발생했을 때 책임 소재를 묻는 질문에서는 '최종 의사결정자'라는 응답이 57.9%로 가장 높았다. 'AI를 활용한 실무자'라는 응답은 18.9%였다.

AI가 기업의 의사결정 과정에서 분석과 판단을 지원하더라도 최종 결정을 내린 사람에게 책임이 있다는 인식이 우세한 것으로 풀이된다.

국제사회에서도 AI 활용에 따른 책임을 강조하고 있다. 경제협력개발기구(OECD)는 2024년 개정한 'AI 원칙'에서 인간의 감독과 책임성을 주요 원칙으로 제시했다. AI 시스템의 개발·운영·활용에 관여하는 주체들이 각자의 역할과 상황에 따라 책임을 져야 한다는 내용이다.

김상봉 한성대 경제학과 교수는 "리더는 결정을 내려야 하는 사람"이라며 "AI가 가져온 데이터라고 하더라도 계속 의심하고 또 의심해야 한다"고 지적했다.

그는 이어 "결국 판단은 사람이 해야 한다"며 "AI 확산으로 리더의 역할과 책임이 더욱 커질 수밖에 없을 것"이라고 강조했다.

그래픽=이찬희 기자

AI 시대에는 리더 개인의 역량뿐 아니라 기업의 조직문화와 업무 방식에도 변화가 필요하다는 인식이 나타났다.

기업 경쟁력을 좌우할 조직문화 요소로는 'AI 활용'이 31.4%로 가장 높은 응답률을 기록했다. 이어 '인재 확보·육성'이 22.0%로 나타났다. 수평적 조직문화나 빠른 의사결정, 공정한 성과보상보다 AI 활용과 인재 확보·육성을 더 중요한 요소로 꼽은 셈이다.

기업의 기존 업무 관행 중 가장 먼저 바뀌어야 할 것으로는 '근무 방식'이 28.9%로 가장 많이 꼽혔다. '보고·결재 문화'도 27.7%로 비슷한 수준이었으며 '조직 내 커뮤니케이션'은 20.8%로 뒤를 이었다.

이는 AI 도입에 맞춰 기업의 일하는 방식과 의사결정 과정도 달라져야 한다는 요구로 풀이된다. AI가 자료 수집과 분석, 반복적인 업무를 지원하는 상황에서 기존의 보고 체계와 업무 절차를 재검토할 필요성이 커지고 있다는 의미다.

김대종 세종대 경영학과 교수는 "AI를 활용하면 자료 수집과 분석, 보고서 작성 등에 소요되는 시간을 크게 줄일 수 있다"며 "불필요한 대면회의와 중복 보고, 여러 단계의 결재 절차를 과감하게 없애야 한다"고 말했다.

이 같은 변화는 글로벌 기업에서도 나타나고 있다. 마이크로소프트가 발표한 '2025 업무동향지수'에 따르면 31개국 근로자 3만1000명을 대상으로 한 조사에서 리더의 82%가 전략과 운영 방식을 재검토해야 하는 중요한 시기라고 답했다. 리더의 46%는 조직에서 AI 에이전트를 활용해 업무 흐름이나 비즈니스 프로세스를 완전히 자동화하고 있다고 응답했다.

AI가 기업의 일하는 방식을 바꾸고 있지만 그 변화를 이끌고 최종 판단에 책임지는 것은 결국 사람의 몫이라는 의미다.

김대종 교수는 "AI 도입의 핵심은 단순히 기술을 구매하는 것이 아니라 기업의 일하는 방식과 조직문화를 혁신하는 것"이라며 "AI 시대에는 보고를 많이 하는 기업이 아니라 빠르게 판단하고 실행하는 기업이 살아남을 것"이라고 강조했다.