"AI가 은행 대체? 위험한 착각" 日신세이銀 출신의 경고

日신세이은행 CTO 출신 피터 프랑켄 인터뷰
"은행은 95% 정확도로 못 돌아가…오류 전제한 설계 필요"
AI·스테이블코인 시대, 핵심은 기술 아닌 리스크 통제

【파이낸셜뉴스 도쿄=서혜진 특파원】 "AI가 은행 업무를 대체할 수 있다고 믿는 순간 위험이 시작된다. 금융은 95% 정확도로 돌아갈 수 없는 산업이다."

피터 프랑켄 글로벌 금융·기술 네트워크(GFTN) 일본법인 공동창립자 겸 이사( 사진)는 지난 13일 일본 도쿄에서 진행된 인터뷰에서 "AI와 디지털 자산이 금융산업의 핵심 화두로 떠오르고 있지만 금융권과 규제당국이 여전히 과소평가하고 있는 구조적 리스크가 많다"며 이같이 지적했다.

그는 "스테이블코인과 토큰화 금융은 분명 금융 시스템 효율성을 크게 높이겠지만, 장기 시스템 유지와 데이터 통제, AI 오작동 문제에 대한 고민은 아직 초기 단계"라며 "기술보다 중요한 것은 리스크 통제 구조"라고 강조했다.

프랑켄은 일본 금융권의 디지털 전환을 이끌어온 신세이은행(현 SBI신세이은행)에서 최고기술책임자(CTO)를 지냈고 현재 글로벌 금융·딥테크 분야에서 활동하고 있다. 그는 한국 금융권에 대해서도 "한국은 디지털 인프라와 인터넷은행 측면에서 상당히 앞서 있지만 AI와 디지털 금융 결합은 속도보다 통제 구조가 중요하다"고 말했다. 다음은 일문일답.

―에이전틱 AI와 토큰화 금융이 실제 금융권에 도입되기 시작했다. 금융기관과 감독당국이 과소평가하는 시스템 리스크는 무엇인가.

▲토큰화 금융부터 보면 기본 원칙 자체는 기존 금융과 크게 다르지 않다. 스테이블코인도 결국 하나의 자산이고 통화다. 기존 금융에서 적용하던 원칙들이 그대로 적용돼야 한다. 문제는 왜 그런 규제가 필요한지 충분히 이해하지 못한 채 새로운 시스템을 만들고 있다는 점이다.

예를 들어 은행은 고객확인(KYC)을 한다. 그런데 스테이블코인에서는 익명성이 강조되면서 그런 절차를 생략하려는 시도가 있다. 처음에는 좋아 보일 수 있지만 시간이 지나면 왜 그런 절차가 필요한지 깨닫게 된다.

내가 일본에서 대형 은행 운영을 맡았을 때 상속 관련 업무도 담당했다. 고객이 사망하면 그 돈이 상속인에게 안전하게 이전돼야 한다. 그런데 고객과 가족을 식별할 수 없으면 돈을 돌려줄 수 없다. 만일 누군가가 자신의 전 재산을 스테이블코인으로 보유한 상태에서 사망한다면 그 자산을 배우자나 가족에게 어떻게 이전할 것인가. 기존 은행 시스템에는 이런 절차와 규정이 있지만 새로운 디지털 금융 생태계는 아직 충분히 성숙하지 못했다.

또 하나 중요한 문제는 시스템 지속 가능성이다. 나는 35년 넘게 시스템을 구축해왔다. 금융 시스템은 장기간 유지돼야 한다. 일본 주택담보대출은 30~35년이다. 그 기간 동안 시스템은 계속 작동해야 하고 유지·보수돼야 한다. 소프트웨어는 2~3년만 지나도 오류가 발생하거나 환경 변화로 제대로 작동하지 않을 수 있다. 만일 부동산을 토큰화했는데 그 자산은 200년 존재할 수 있다. 그렇다면 이 시스템을 200년 유지할 수 있는가. 이더리움이나 비트코인 기반 시스템이 그렇게 오래 지속될 수 있는가. 시스템이 멈추면 토큰화된 자산은 어떻게 되는가. 이것은 아직 충분히 논의되지 않은 리스크다.

―AI 리스크는 어떻게 보나.

▲가장 큰 위험은 사람들이 AI가 인간 업무를 완전히 대체할 수 있다고 믿는 것이다. AI는 복잡성이 높아질수록 오류 가능성이 커진다. 결국 '환각(hallucination)' 문제를 피할 수 없다. 쉽게 말해 AI가 사실이 아닌 내용을 만들어내는 것이다.

문제는 사람들이 AI를 100% 완벽하게 만들 수 있다고 생각한다는 점이다. 인간도 100% 정확하지 않다. 우리는 여러 사람과 여러 절차를 통해 오류를 줄여왔다. 금융산업은 특히 그렇다.

은행은 95% 정확도로 운영될 수 없다. 예를 들어 고객 계좌에 오늘 10만엔이 있는데 내일 AI 오류로 9만7000엔이 찍힌다면 어떻게 할 것인가. 이유를 설명할 수 없다고 해서 용납되는 산업이 아니다. 은행은 정확성이 핵심이다.

10년 전 사람들은 블록체인이 모든 문제를 해결할 것이라고 생각했다. 하지만 실제로는 특정 문제만 해결했다. AI도 마찬가지다. 일부 문제는 해결하겠지만 모든 문제를 해결하지는 못한다. 중요한 것은 오류를 전제로 시스템을 설계하는 것이다.

―기술 혁신 속도를 규제가 따라가지 못한다는 지적이 많다. 어떤 방식이 필요하다고 보나.

▲혁신이 규제보다 항상 앞설 수밖에 없다. 새로운 것이 먼저 등장해야 규제할 수 있기 때문이다. 반대로 규제는 사용자 신뢰를 만든다. 규제가 생기면 채택 속도가 빨라진다. 사람들이 '문제가 생겨도 내 돈은 안전하다'고 믿게 되기 때문이다.

문제는 얼마나 빨리 규제해야 하는가다. 너무 빠르면 혁신을 죽이고 너무 늦으면 리스크가 커진다. 그래서 최근 규제당국은 규제 샌드박스를 많이 활용한다. 새로운 기술을 소규모로 시험하면서 감독당국도 배우는 방식이다.

20년 전과 비교하면 일본이나 싱가포르 등 아시아 규제당국은 훨씬 적극적으로 실험하고 있다. 국가 간 협력도 많아졌다. 서로 배우고 정보를 공유한다. 결국 핵심은 혁신을 허용하면서도 위험이 시스템 전체로 번지지 않도록 균형을 찾는 것이다.

―한국 정치권과 금융당국도 스테이블코인 규제를 논의 중이다. 은행 중심 규제에 대한 비판도 나온다.

▲한국 상황 전체를 정확히 아는 것은 아니다. 다만 지분 50% 이상을 은행이 보유해야 한다는 방식은 본질적 문제를 해결하는 접근은 아니라고 본다. 은행이 대주주라고 해서 기술 인프라나 내부통제가 자동으로 안전해지는 것은 아니다.

중요한 것은 '무엇이 잘못될 수 있는가'를 기준으로 규제하는 것이다. 일본은 다른 접근을 택했다. 일본은 은행이 스테이블코인 회사를 소유해야 한다고 요구하지 않았다. 대신 스테이블코인 준비자산 100%를 신탁은행에 보관하도록 했다.

즉 신탁은행이 고객 자산을 보관하고 규제당국이 그 자산을 통제할 수 있도록 만든 것이다. 만일 스테이블코인 발행사가 문제가 생기면 당국은 신탁은행 계좌를 동결하고 고객 자산을 돌려줄 수 있다. 핵심은 고객 돈을 안전하게 돌려줄 수 있는 구조다. 소유구조 자체는 본질이 아니다.

―지난 2월 열린 GFTN재팬에서 AI·디지털통화 패널 토론을 진행했다. 가장 중요한 논점은 무엇이었나.

▲AI를 모든 문제의 해결책으로 생각해서는 안 된다는 점이다. 대형 금융기관은 새로운 기술을 도입할 때 시간이 걸릴 수밖에 없다. 고객 자산과 규제 리스크가 있기 때문이다. 작은 회사는 AI를 빠르게 도입할 수 있다. 하지만 고객 수천만명을 보유한 은행은 다르다. 충분한 테스트와 검증이 필요하다. 패널 토론에서도 얘기했지만 AI는 90%까지는 매우 빠르게 처리할 수 있다. 하지만 마지막 10%는 인간이 해야 한다. 인간은 더 고차원적인 판단에 집중하고 AI는 반복 업무를 줄이는 식이다.

클라우드 컴퓨팅도 마찬가지였다. 10~15년 전 금융권은 클라우드 도입에 매우 신중했다. 몇 년 전 기준으로도 주요 은행 중 핵심 시스템을 클라우드에서 운영하는 비중은 20% 정도에 불과했다. AI 역시 비슷한 과정을 거칠 것이다.

다만 AI는 수작업과 종이 기반 프로세스가 많은 금융권에서 상당한 효율 개선 효과를 낼 수 있다. 신용평가 정확도를 높이는 데도 도움을 줄 수 있다.

―일본이 AI 기반 디지털 금융 허브가 되기 위해 필요한 것은 무엇인가.

▲가장 중요한 것은 인재다. 인재를 유치하고 훈련해야 한다. 일본만의 문제가 아니라 많은 나라들이 겪는 문제다. 일본은 인도나 중국 등 해외 인재를 더 적극적으로 받아들여야 한다.

또 일본은 시스템통합(SI) 기업 의존도가 매우 높다. 일본 금융 시스템은 대형 시스템통합업체들이 구축해왔다. 일본이 변화하려면 이들 기업이 새로운 기술 활용 방식 자체를 근본적으로 바꿔야 한다.

―한국 금융회사들은 어떤 전략을 우선해야 하나.

▲한국은 디지털 인프라가 강하고 카카오뱅크 같은 현대적 금융 플랫폼도 있다. 다만 AI와 디지털 자산 결합은 아직 초기 단계다. 너무 빠르게 가는 것도 위험할 수 있다.

은행의 가장 중요한 역할은 고객 돈을 안전하게 보관하는 것이다. 오늘 10만엔이면 내일도 10만엔이어야 한다. 또 대출이 제대로 회수되도록 해야 한다. 그런데 AI 내부 작동 원리를 충분히 이해하지 못한 상태에서 금융에 연결하면 문제가 생길 수 있다. 예를 들어 AI 에이전트가 잘못된 계좌로 송금했다면 돈을 회수하는 것은 매우 어렵다. 프로그래머는 단순히 프로그램을 다시 돌려 돈을 회수하면 된다고 생각할 수 있다. 하지만 실제 금융 시스템에서는 고객 동의 없이 돈을 다시 가져올 수 없다. 법과 규제가 있기 때문이다.

더 심각한 것은 대규모 오류다. 사람은 하루에 몇 번 정도 실수할 수 있지만 AI는 서버에서 수백만건의 거래를 동시에 처리한다. 만약 AI가 100만명에게 1엔씩 잘못 송금했다면 어떻게 회수할 것인가. 이것이 AI와 금융을 결합할 때 가장 중요한 문제다.

―향후 3~5년간 금융산업에 가장 큰 영향을 줄 딥테크 분야는 무엇인가.

▲토큰화와 스테이블코인이다. 금융 거래 효율성을 크게 높일 수 있기 때문이다. 지금도 대부분의 돈은 이미 디지털이다. 다만 중앙집중적으로 관리될 뿐이다. 토큰화는 자산을 더 작은 단위로 나누고 여러 사람이 일부씩 소유할 수 있게 만든다. 또 스테이블코인을 통해 실시간 결제가 가능해지면 결제 리스크를 줄일 수 있다. 지금은 주식 거래를 하면 통상 이틀 뒤 결제가 이뤄진다. 그 사이에는 리스크가 존재한다. 스테이블코인은 이를 실시간으로 처리할 수 있다.

AI 역시 금융 업무 효율성과 품질을 높이는 데 큰 영향을 줄 것이다. 다만 진짜 핵심은 AI·토큰화·클라우드·데이터가 결합될 때 나온다.

앞으로 가장 큰 이슈 중 하나는 데이터 소유권이 될 것이다. AI 모델은 데이터를 학습해야 작동한다. 그런데 그 데이터가 누구 소유인가. 개인 데이터인가, 기업 데이터인가, 공개 데이터인가. 이것이 향후 핵심 논쟁이 될 것이다.

[e-mail] 서혜진 기자