AI만 붙이면 혁신?···은행권 'AI 워싱' 논란 불 붙는다

AI 내재화보다 마케팅 효과 부각···혁신 포장 우려 커져

생성형 AI 활용 확산에도 기술 독립성·거버넌스 미흡

"AI 워싱 차단 위해 지정 요건·경영자 책임 손질 필요"

은행권의 인공지능(AI) 서비스 경쟁이 과열되면서 혁신을 앞세운 마케팅 남용 우려가 커지고 있다. 실질적인 기술 내재화 없이 'AI' 이름만 빌려 쓰는 'AI 워싱(washing)'이 확산될 수 있다는 지적이다. 일각에선 소비자 보호와 기술 신뢰 확보를 위해 혁신금융서비스 지정 요건 강화 등 제도적 보완이 필요하다는 목소리가 나온다.

29일 금융권에 따르면 이재명 대통령은 최근 "주택담보대출 같은 이자 놀이에 매달릴 게 아니라 투자 확대에도 신경 써달라"고 언급하는 등 은행권에 대한 압박수위를 높이고 있다. 이자이익 성장이 절벽에 다다르면서 은행권의 고심이 깊어지는 모습이다.

이 같은 분위기 속에서 은행권은 생성형 AI 기반 서비스를 잇달아 출시하며 '디지털 혁신' 이미지 제고에 나서고 있다. 금융당국의 혁신금융서비스 지정과 정부의 비이자수익 확대 요구에 부응하고 고객 접점 확대를 통해 미래 성장동력을 확보하겠다는 복안이다. KPMG 조사에 따르면 국내 금융기관의 62%가 대고객 서비스에 생성형 AI를 사용할 계획이다.

금융위원회는 앞서 지난해 말 생성형 AI를 활용한 9개 금융회사의 10개 혁신금융서비스를 처음으로 지정했다. 금융당국이 지난해 8월 금융분야 망분리 개선 로드맵을 발표한 이후 9월 한 달 동안 무려 74개 금융사가 141건의 혁신금융서비스를 신청했는데, 이 중 상당수가 생성형 AI 활용과 관련된 내용이다.

혁신금융서비스 지정이 늘어나면서 은행권의 AI 활용은 챗봇 등 비교적 단순한 분야부터 자산관리, 여신심사 등 핵심 업무로 확대되고 있다. 기존의 전통적인 머신러닝 위주의 서비스가 고도화된 자연어 인터페이스로 진화하는 추세다.

'혁신금융' 간판 내건 은행들···생성형 AI 도입 러시

대표적으로 신한은행은 생성형 AI 은행원이 창구 업무를 수행하는 'AI 브랜치'를 운영 중이다. KB국민은행은 생성형AI 금융상담 에이전트 서비스를 통해 고객 친화적 대화와 상담을 제공한다. NH농협은행도 생성형AI 플랫폼을 활용해 외국인 고객을 위한 AI 은행원, 고령층을 위한 상담 서비스 등을 추진하고 있다. 인터넷전문은행인 카카오뱅크도 이자 계산과 환율 조회 등 실용 기능을 앞세운 AI 기반 금융검색 서비스를 최근 출시했다.

문제는 은행권의 AI 기술 내재화가 아직 걸음마 단계라는 점이다. 대부분의 은행들이 생성형 AI 기술력을 독립적으로 보유했다기보다는 외부의 거대 언어모델(API)나 솔루션을 응용하는 수준에 머물러 있다. 국내 은행들은 AI 전문인력을 육성하고 있지만 글로벌 대형은행처럼 대규모 AI 연구개발 조직을 운영하는 경우는 드물다.

현재 선보인 AI 챗봇이나 투자상담 봇들이 예상치 못한 오류나 거짓 답변(할루시네이션)을 내놓을 가능성을 배제할 수 없다. 특히 은행의 AI 서비스는 정보 제공이나 질의응답 등 프런트 기능에 집중돼 있어 '혁신'이라는 표현이 과하다는 평가도 있다. 고객 접점이 아닌 여신 심사나 리스크 관리 등 핵심 업무에는 AI가 녹아들지 못하고 있다는 뜻이다.

대외적으로는 생성형 AI, 프라이빗 LLM 등 첨단 기술 도입을 내세우면서도 실제로는 비용 절감이나 업무 효율화 수준에 머무르는 경우도 적지 않다. AI 도입이 전략이 아닌 전시(展示)에 그치고 있다는 비판이 나오는 이유다.

지난 2월 글로벌 IT서비스 업체 NTT데이터가 전 세계 13개국 810명의 은행권 경영진을 대상으로 조사한 결과에 따르면 응답자 절반은 AI를 비용 절감 수단으로 본 것으로 나타났다. 반면 '고객경험 개선'을 우선순위로 꼽은 응답자는 29% 수준에 그쳤다. AI를 고객 가치 제고의 전략적 수단이 아닌 단순한 내부 프로세스 자동화 도구로 활용하려는 경향이 뚜렷하다는 방증이다.

특히 은행들이 경쟁적으로 내놓는 AI 서비스들이 '혁신'과 '홍보성 포장' 사이에 서 있다는 지적도 만만치 않다. AI 기술을 충분히 활용하지 않으면서 겉으로는 AI를 쓰고 있다며 과대 선전하는 'AI 워싱'이 만연해질 수 있다는 관측이다.

최근 AI에 대한 투자 열풍 속에 일부 기업들이 투자 유치나 이미지 제고를 위해 AI 활용을 과장하는 사례가 늘어나자 미국 증권거래위원회(SEC)는 금융업계의 AI 워싱이 규정 위반 소지가 있고 금융산업에 대한 신뢰를 저해할 수 있다며 경고했다. 실제로 지난 2023년 3월 SEC는 AI 기술을 내세워 투자자를 모았지만 실제로는 AI를 전혀 활용하지 않은 투자자문사 2곳에 대해 과징금을 부과하기도 했다.

기술 신뢰·소비자 보호 한계···제도적 보완 필요

시장 안팎에서는 은행권의 AI 워싱을 막을 수 있는 제도적 보완이 필요하다는 지적이 나온다. 단순히 'AI 활용' 여부만으로 혁신금융서비스 지정을 결정할 경우 기술의 신뢰 확보는 물론이고 금융소비자 보호에도 한계가 있다는 이유에서다.

송원호 KB금융지주 경영연구소 책임연구원은 "AI 기술 사용을 강조하면 더 많은 자본을 유치하고 기업 가치의 상승 효과를 기대할 수 있다"면서도 "하지만 AI 워싱은 적절한 투자 자원의 배분 저해, 소비자 신뢰 저하, 과도한 기대감 유발 등 부정적인 결과를 초래할 수 있다"고 경고했다.

이어 "정부는 AI 워싱에 대한 규제를 강화해 기업이 AI 사용에 대한 투명성을 높이고 허위 주장을 남발하지 않도록 유도할 필요가 있다"며 "AI 기술 발전으로 AI 워싱에 대한 규제와 소비자 보호의 중요성이 강조되고 있는 만큼 투명한 AI 기술 사용을 통해 소비자와 투자자의 신뢰를 확보해 진정한 혁신을 도모해야 할 것"이라고 덧붙였다.

한편에선 AI 기술 도입에 대한 고위경영자의 책임과 의무가 강화돼야 한다는 의견도 있다. 실제로 영국 금융감독청(FCA)은 AI 활용에 대한 기본원칙 준수와 거버넌스 구현에 초점을 두고, 이를 위한 고위경영자의 책무를 강조하고 있다.

안유미 자본시장연구원 선임연구원은 "책임 있는 AI 도입을 위한 금융당국의 제도적 지원이 필요하다"며 "AI 활용의 효과적 거버넌스 구축과 자율적 통제를 위해 고위경영자의 내부통제 수립 책임을 강화하고, 적절한 내부통제를 수립한 경우 책임을 경감하는 인센티브가 부여되도록 책무구조도상의 면책 범위 확대를 고려할 필요가 있다"고 제언했다.