챗봇, 개인정보 유출·피싱 악용 우려

AI 의도치 않은 행위 발생.. 챗봇 통해 서버 해킹 가능성

로봇이 채팅 방식으로 고객과 각종 상담을 하는 서비스인 챗봇(Chatbot)이 금융권에서 각종 보안 사고의 수단이 될 수 있다는 우려가 나왔다.

1일 금융보안원이 최근 발표한 '국내.외 금융권 챗봇 활용 현황 및 주요 보안 고려사항' 보고서에 따르면 지난 2월 말 현재 챗봇을 도입한 금융회사는 신한은행과 현대카드, 라이나생명, 웰컴저축은행 등 13개 회사다.

챗봇 프로그램은 고객이 필요할 때 언제든지 신속하게 대응할 수 있고 인건비 절감이나 각종 데이터 수집에도 활용할 수 있다. 그러나 챗봇 보안이 허술해 지면 개인정보 유출이나 피싱 등에 악용될 수 있다.

금융회사들이 도입한 챗봇을 보면 크게 시나리오형과 인공지능(AI) 기술을 적용한 챗봇으로 분류할 수 있다.

시나리오형은 미리 정해 놓은 키워드에 따라 정해진 답을 출력하기 때문에 활용도는 제한적이지만 보안 위험은 크지 않다.

반면 AI 기술을 적용한 챗봇은 복잡한 질문에도 응답할 수 있고 자기학습도 가능해 일부 회사는 송금이나 카드분실, 신고.정지 등에 활용되는데 고객이 입력한 단어에 AI가 의도치 않은 행위를 해 개인정보 유출과 같은 보안 위협이 발생할 수 있다. 또 챗봇이 각종 서비스를 위해 금융회사 서버와 연결돼 있으면서 보안이 제대로 돼 있지 않으면 챗봇을 통한 각종 해킹이 발생할 수 있다고 보고서는 지적했다.

금융보안원은 "금융회사는 챗봇에 대한 식별 기능을 제공하고, 챗봇을 통해 입력되는 중요정보를 사용자 단말기에 저장하지 않거나 불가피한 경우 암호화해야 한다"며 "챗봇 서버 보안 및 접근제어, 네트워크 보안, 웹서버 보안 등도 챙겨야 한다"고 강조했다.

[e-mail] 홍석근 기자