금융당국, 'AI 신용평가모형 검증체계' 구축

김주현 금융위원회 위원장이 10일 오전 서울 마포구 프론트원에서 열린 벤처기업 금융지원 간담회에서 모두발언을 하고 있다. 사진=강민석 기자 [e-mail]

금융당국이 신뢰받는 인공지능(AI) 활용 환경을 구축하고자 보안 지침을 확립했다.

17일 금융위원회는 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다고 밝혔다.

먼저 'AI 기반 신용평가모형 검증체계'는 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정하였는지 등을 점검하는 게 골자다. 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지를 확인하고, 이들이 소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지도 들여다본다.

개인신용평가체계 검증위원회는 연내 새 시스템을 활용해 AI 신용평가모형을 활용하는 개인사업자신용평가회사를 검증한다. 추후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 진단할 계획이다.

이와 함께 '금융분야 AI 보안 가이드라인'은 AI 모델을 개발할 때 고려할 보안사항을 개발단계별로 제시하고 챗봇 서비스의 보안성 체크리스트도 추가로 제공한다.

AI 모델 개발단계별 보안 고려사항은 ▲학습 데이터 수집 ▲학습 데이터 전(前)처리 ▲AI 모델 설계·학습 ▲AI 모델 검증·평가 등으로 구성됐다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대응할 수 있도록 방법을 공유한다.

금융위는 금융 분야에서 AI가 가장 활발히 사용되는 챗봇과 관련해선 '보안성 체크리스트'를 별도로 구축했다. 보안성 확보에 필요한 사항을 체크리스트 형태로 구체화해 현장 실무자가 쉽게 활용할 수 있을 것으로 금융위 측은 기대했다.

가이드라인은 '금융보안 레그테크 포탈'에 게재돼 있다.

금융위 관계자는 "AI는 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이고, 금융 분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야"라면서 "금융분야 인공지능 활용 활성화와 신뢰확보 방안의 다른 세부 추진과제도 차질없이 추진할 것"이라고 말했다.