뱅크샐러드, AI 금융거래 '오판' 막는다···특허 3건 출원
AI 에이전트 오류 방지하는 기술 개발 왜곡 정보 생성하는 '환각' 방지에 초점
[파이낸셜뉴스] 뱅크샐러드가 인공지능 에이전트(AI Agent)의 판단과 실행을 통제하는 기술을 개발했다. AI 에이전트의 금융 서비스 제공 과정에서 일어날 수 있는 오류를 제어해 금융 거래 신뢰도를 높일 것으로 기대된다.
15일 업계에 따르면 뱅크샐러드는 '금융 AI 에이전트 판단·실행 제어 기술' 관련 3건의 특허 출원을 완료했다.
금융권에선 AI 에이전트가 단순한 상품 추천을 넘어 대출 신청과 자산관리 등 실제 금융거래를 수행하는 방향으로 발전할 것으로 평가하고 있다. 이에 따라 AI의 판단 정확도뿐 아니라 오류 발생 시 거래 실행을 중단하거나 재검증할 수 있는 통제 기술의 중요성도 커질 전망이다.
뱅크샐러드는 이번에 AI가 왜곡된 정보를 생성하고 거짓 답변을 내놓는 '환각(hallucination)' 오류 방지를 위해 △실행 대상 판단 △수치 검증 △실행 제어 등 기술적 안전망 구축에 초점을 맞췄다.
특허 출원 기술들은 AI 에이전트가 소비자를 대신해 금융 거래를 진행할 때 발생 가능한 잠재적 위험을 차단한다. 금융 거래는 작은 계산 실수에도 큰 손실을 유발할 수 있는 만큼 AI 에이전트 안정성 확보에 중점을 뒀다.
우선 대출 가심사 과정에서 신용 상태 등 조건을 고려해 보다 낮은 금리로 대출받을 수 있는 고객을 선별하는 기술이다. 실제 심사 결과를 AI 예측 모델에 학습시켜 정확도를 끌어올렸다.
AI가 금융 상품 정보와 맞춤형 혜택을 분석하는 과정에서 정보 누락이 없도록 점검하는 기술도 만들었다. 총부채원리금상환비율(DSR), 담보인정비율(LTV) 등 금융 규정에 따른 계산식으로 산출한 수치를 최종 교차 검증하는 기능이다.
끝으로 고객에게 불리한 거래 실행을 보류하는 기술도 포함됐다. AI 에이전트가 금융 서비스를 실행할 때 입력된 수치와 정보가 정확한지 원칙대로 검증하고, 잘못된 판단을 내리지 않도록 마지막 단계까지 제어하는 게 핵심이다.
뱅크샐러드 관계자는 "금융 AI 에이전트의 오류를 검증하고 통제해 안전하게 서비스를 이용할 수 있도록 하는 게 원칙"이라며 "고객이 안심하고 사용할 수 있는 신뢰도 높은 금융 AI 서비스를 만들어 나갈 것"이라고 강조했다.
[email protected] 김태일 기자
