[한스경제=이성노 기자] 금융권에서 인공지능(AI)을 활용해 업무효율화·고객 인터페이스 개선·내부관리 고도화 등을 도모하는 움직임이 확산되고 있는 가운데 데이터 프라이버시, 편견·오류 정보에 의한 왜곡 등의 한계에 따른 리스크 관리가 당면과제로 떠오르고 있다. 

이에 금융당국은 AI 활용 시 발생할 수 있는 리스크 요인에 대한 감독 방안을 검토해 나갈 방침이다. 

최근 금융기관에서 생성형 AI를 업무전반에 활용하는 사례가 증가하면서 관련 시장도 크게 확대되고 있다. 생성형 AI는 학습된 데이터를 이용해 문장·영상·프로그램 코드 등을 새롭게 생성하는 기능을 가진 인공지능을 말한다. 기존 AI가 업무자동화에 이용된 것과 달리, 생성형 AI는 자체적으로 새로운 콘텐츠를 만드는 데 적용되고 있다. 

미국 IT분야 리서치 및 컨설팅 업체인 가트너(Gartner)는 ‘2024년 전략적 기술 트렌드 Top10' 가운데 하나로 ‘생성형 AI의 대중화'를 선정했으며, 2023년 5% 미만에 불과했던 기업의 생성형 AI 활용도는 2026년엔 80%를 상회할 것으로 예상했다. 

일본 전자정보기술산업협회(JEITA)에 따르면, 전 세계의 생성형 AI시장 수요는 2023년의 106억달러에서 2030년에는 2110억달러로 연평균 53.3% 성장할 것으로 전망된다, 이 같은 상황에서 금융업계 생성형 AI시장은 2023년 19억달러에서 2030년에는 439억달러로 성장해 다양한 영역에서 생성형 AI가 활용될 것으로 예상된다. 

최근 국내 은행권도 AI 도입에 박차를 가하고 있다. 우리은행은 지난해 11월, 금융권에서 처음으로 생성형 AI를 활용해 금융상담 서비스를 제공하는 AI 뱅커 시스템을 본격적으로 구축했다. 또한 올해 1분기 내에 모바일 앱인 '우리WON 뱅킹'에서 관련 서비스를 오픈할 예정이다. 

생성형AI를 활용한 고객 대상 금융 상담서비스 제공은 국내 금융권에선 처음이다. 우리은행은 생성형 AI가 활용되면 고객과 자연스러운 대화를 통해 상담뿐만 아니라, 기본적인 업무처리까지 가능할 것으로 기대하고 있다. 

신한은행은 최근 AI 기술을 활용해 고객 특성을 분석하고 각 고객에게 필요한 맞춤형 상품을 제안하는 노코드 AI 플랫폼 ‘AI 스튜디오(Studio)’을 전 영업점에 확대 도입했다. 

하나은행은 고객 편의성 향상을 위해 AI음성을 기반으로 금융 상담을 제공하는 'AI콜봇 서비스'를 확대 개편했으며, 케이뱅크는 총 34여 개 업무에 AI를 적용해 연간 159만건 이상의 자동화 업무를 수행하고 있다. 

이처럼 국내를 비롯해 전 세계적으로 AI금융이 빠르게 확산되고 있는 가운데, 관련 리스크도 산적해 있다. 

국제통화기금(IMF)는 보고서를 통해 'AI 활용이 금융업에 새로운 리스크의 온상이 될 수 있다'며 금융업의 AI 리스크로 △데이터 프라이버시 △내재된 편견 △금융인파라로서의 견고성·확실성 △설명책임 △사이버보안·악용리스크 △금융시스템의 안정성 등을 거론했다. 

세부적으로 금융기관은 고객의 개인정보·기업비밀·임출금정보 등, 높은 기밀성을 요구하는 정보를 취급하며, 이러한 정보를 생성형 AI에 연결할 경우에는 민감한 정보가 누설되거나, 추측될 리스크가 있다고 봤다. 

또한 학습하는 데이터가 편향되면 의사결정 판단에 바이어스가 생겨 금융배제나 사회적 신뢰 훼손으로 이어질 가능성도 높으며, AI가 사실과 다른 정보를 생성할수 있고 이러한 잘못된 정보가 고객의 의사결정이나 금융기관의 리스크 관리에 잘못된 판단을 초래할 수 있다고 전망했다. 

아울러 생성형 AI를 악용한 금융범죄나 딥페이크로 인한 금융시장 혼란, 그리고 알고리즘 조작 등을 우려했다.  

이에 국제기구 및 주요국 금융당국은 다양한 보고서를 통해 금융서비스에 대한 AI 활용이 금융시스템 상 리스크가 될 수 있다고 평가하고, 이에 대한 대응책 마련에 분주히 움직이고 있다. 

금융감독원(금감원)은 지난 2022년 '금융분야 AI 활용 활성화 및 신뢰확보 방안'을 발표했으며, 지난해에는 'AI 기반 신용평가모형 검증체계'와 '금융분야 AI 보안 가이드라인'을 마련했다. 

그리고 지난 15일에는 금융사 AI 담당 임원 등, 약 250명이 참석한 가운데 '금융권 AI 활용 활성화를 위한 세미나'를 열고 AI 활용 활성화 및 책임성 확보 방안을 논의했다. 

금감원은 AI 활용 시 발생할 수 있는 정보유출 등 리스크 요인에 대한 감독방안도 균형감 있게 검토하고, 안전성과 신뢰성을 기반으로 금융권의 AI 활용이 활성화될 수 있도록 합리적 규율방안을 마련해 나갈 방침이다. 

이성노 기자 sungro51@sporbiz.co.kr