금융위원회가 2분기 중 금융 분야 인공지능(AI) 운영 가이드라인을 준비하고, 금융 업권별 실무지침 등도 올해 단계적으로 마련해 나가기로 했다.
도규상 금융위 부위원장은 13일 제 7차 디지털금융 협의회를 열고 "AI는 인간보다 빠르게 더 많은 정보를 처리함으로써 의사결정의 효율성을 높이는 반면, 의사결정의 편향성 등 공정성 이슈가 제기될 수 있어 양자 간 조화를 이룰 수 있도록 운영 가이드라인을 만들겠다"며 이같이 밝혔다.
도 부위원장은 이어 "금융권 AI 활용을 지원하기 위해 빅데이터 인프라를 구축하고, AI 알고리즘의 유효성을 검증할 수 있는 테스트베드(시험환경)도 만들어 나가겠다"고 덧붙였다.
금융 분야에서 AI는 로보어드바이저와 알고리즘 거래, 챗봇, 신용평가, 사기탐지(FDS) 등에 다양하게 활용된다. 그러나 현재는 금융투자 분야 등 일부를 제외하고는 AI 활용에 대한 법제상 규율이 명확하지 않은 상황이다.
이에 금융위는 서울대 산학협력단이 수행한 연구용역 결과를 토대로, AI 운영 가이드라인을 만들기로 했다.
서울대 산학협력단은 금융위가 발주한 '금융분야 AI 운영 가이드라인 연구용역'에서 정부가 AI시스템의 잠재 위험을 평가·관리할 거버넌스를 구축하고, 전 과정에서 적절한 평가를 진행해 시스템의 신뢰성을 확보해야 한다고 제언했다.
이어 연구진은 금융상품 판매 시 주로 사용되는 전문적 내용이 포함된 말뭉치 데이터세트와 AI학습·교육용 합성데이터 등 빅데이터 인프라를 정부가 공공재 성격으로 구축하면, 개별 금융기관이 자체적으로 보유한 데이터만으로 AI를 개발할 때 생기는 한계를 보완할 수 있다고 조언했다.
또 AI의 불완전판매 등 법적 리스크를 해소하기 위해, AI가 설명의무를 준수하고 있는지 등을 실증적으로 측정하는 'AI 설명 테스트베드'를 구축할 필요가 있다고 덧붙였다.
도 부위원장은 "AI 등 혁신적인 기술을 활용하는 과정에서 투명성·공정성을 확보할 수 있도록 하고, 다수의 금융회사가 알고리즘을 활용함에 따라 발생할 수 있는 쏠림 현상에 대해 상세히 점검하겠다"고 말했다.
