)
금융권이 AI를 활용한 서비스를 빠르게 늘리고 있다. 내부 업무 자동화부터 소비자 대상 서비스까지 ‘AI를 이용한 혁신’이라는 표현은 이제 낯설지 않다. 금융사가 규제 완화를 위해 신청하는 금융규제 샌드박스 지정 사례 가운데에서도 AI 활용 사례는 200건을 넘는다. 지정사례 중 생성형 AI 등을 이용하기 위해 서비스형 소프트웨어(SaaS)를 도입해 외부망을 이용하는 경우도 있다.
실제 금융소비자를 대상으로 한 AI 서비스도 이미 다수 출시됐다. AI 투자 서비스, 보이스피싱 문자 판별, 상담 보조 기능 등은 모바일뱅킹 앱을 통해 누구나 쉽게 이용할 수 있다. 은행에 있는 AI 챗봇 서비스와 더불어, 토스의 ‘로또 645 AI’나 ‘AI 작명소’처럼 재미 요소에 가까운 서비스부터, 기업은행과 카카오뱅크의 보이스피싱 진단 서비스처럼 일정 수준의 기능을 표방하는 서비스까지 종류도 다양하다.
앞서 말한 기능 중 일부는 단순 흥미 위주의 AI 서비스이기에, 내용이 다소 부정확하더라도 소비자 불만으로 이어질 가능성이 크지 않다. 반면 일부 AI 서비스에 치명적인 허점이 발생할 경우, 뜻하지 않게 금융사에 대한 평가로 이어질 수 있을 가능성도 있다.
물론 AI 기술의 한계로 인해 각종 오류가 발생할 수 있고, 일부 완벽하지 않은 점과 불편한 점이 있기도 하다. 이 때문에 대부분의 금융사는 AI 활용에 있어서 정확하지 않을 수 있음을 안내하고 있다. 다만 그 AI의 제공 주체가 금융사라는 점에서, 동일한 오류라도 소비자가 AI로 얻은 경험으로 금융사를 평가할 수 있는 방편이 될 수 있다는 평가다.
금융사에 대한 직관적인 판단을 내리기 어렵기에 더욱 그렇다. 금융상품과 서비스는 관련 내용이 복잡해 소비자가 성능이나 위험을 판단하기 어렵다. 이 때문에 금융사 내부 시스템에 기술적 결함이 없더라도, 소비자와 접점이 생기는 AI 기능이 ‘신뢰하기 어려운 기술’로 인식되는 순간 금융사 입장에서는 부담이 될 수 있다.
과거 미국에서는 애플카드의 AI 기반 신용한도 산정 과정에서 여성 차별이 있었다는 의혹이 제기돼 논란이 된 바 있다. 이후 당국 조사에서 문제는 발견되지 않았지만, 사실 여부와 관계없이 AI 판단 과정의 불투명성 자체가 카드사에 부담으로 작용했다는 분석이 나왔다. 실제 보안이나 법적 문제가 없더라도, 소비자 인식 측면에서는 리스크로 작용할 수 있음을 보여준 사례다.
11월 20일 열린 금융정보보호 컨퍼런스(FISCON)에서 금융보안원 디지털금융전략팀 조주영 책임은 ‘AI 에이전트’를 향후 디지털 금융보안의 주요 트렌드 중 하나로 꼽았다. AI 에이전트는 단순히 질문에 응답하는 수준을 넘어 스스로 목표를 설정하고 외부 시스템과 연동해 업무를 수행하는 기술이다.
조 책임은 AI 에이전트가 업무 효율성을 크게 높일 수 있는 반면, 통제되지 않은 오작동이나 예상치 못한 행동 가능성도 함께 내포하고 있다고 설명했다. 이에 따라 입출력 데이터 검증, 외부 도구 사용 제한, 입력값 변조 모니터링 등 사전 통제 장치, 이른바 ‘가드레일’ 마련의 필요성도 함께 언급됐다.
이날 발표는 주로 실질적인 보안 위협과 관련된 말이었으나, 소비자와 실제로 대화하는 AI 챗봇에도 충분히 적용될 수 있는 부분이다.
금융사가 AI로 인해 처한 위험은 금융 AI로 인한 해킹이나 오인, 정보 유출과 같은 보안 사고뿐만 아니다. 소비자와의 접점이 확대될수록, 기술적 보안 문제뿐 아니라 소비자 인식 측면에서의 위험도 함께 커질 수 있다. AI 도입을 강조하는 메시지는 혁신의 신호가 될 수 있지만, 소비자와 맞닿아 있기에 소비자가 금융사의 AI를 직접 시험하고, 때로는 금융사에 대해 평가할 수 있는 위험한 공간이기도 하다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
