에이전틱AI의 창은 누가 쥐고 있는가[기고]

[파이낸셜뉴스] 17세기 초, 러시아에 죽은 황자가 돌아왔다. 정확히는 죽은 것으로 알려진 황자를 자처한 남자가 나타났다. 러시아는 그의 신원을 제대로 가려내지 못했고, 결국 황위까지 내줬다.

권좌를 둘러싼 의심은 내전과 국가적 혼란으로 번졌다. 권력의 공백에는 외세까지 파고들었다. 신원 하나를 검증하지 못한 대가는 국가 질서의 붕괴였다. 역사는 이를 '가짜 드미트리 사건'이라 부른다.

400여년이 지난 지금, 우리도 비슷한 질문 앞에 서 있다. 이번에는 권좌를 요구하는 사람이 아니라 조직의 시스템과 데이터에 접근하려는 인공지능(AI)이다. 누구의 명령을 받아 어디까지 움직일 수 있는지, 그 경계가 때로는 안갯속에 가깝다.

그리고 그 안개가 유독 짙어지는 지점이 있다. 목표를 부여받으면 스스로 판단해 외부 시스템에 접속하고 실제 업무를 수행하는 '에이전틱AI(Agentic AI)'다. AI가 단순한 도구를 넘어 조직의 권한을 행사하는 행위자로 바뀌고 있는 경계선이다.

에이전틱AI는 태생부터 이중적이다. 창칼에 주인을 향한 충성심이 없듯이 에이전틱AI의 성능표에도 피아식별 항목은 없다. 그 힘을 누가 호출하고, 어떤 목적으로 사용하며, 어디까지 행사할지는 손잡이를 쥔 쪽이 정한다.

게다가 이 새로운 행위자는 사람보다 빠르고 넓게 움직인다. 탈취되거나 잘못된 명령을 받으면 업무를 수행하는 척 데이터를 모으고, 다른 시스템에 접속하며, 권한을 확장할 수 있다. 공격은 비정상적인 경로가 아니라 정상으로 보이는 절차를 따라 진행된다.

앤스로픽의 '미토스5'는 이 가능성이 이미 현실에 들어섰음을 보여줬다. 소프트웨어 취약점을 찾아 악용하고, 정찰과 침투, 내부 탐색, 횡이동까지 공격의 여러 단계를 자율적으로 수행할 수 있다. 반대로 같은 능력은 취약점을 먼저 발견해 제거하는 강력한 방어 수단이 된다.

결국 에이전틱AI 시대 보안의 핵심은 더 강한 장벽을 세우는 데만 있지 않다. 문 앞에 선 AI가 누구인지 확인하고, 어떤 열쇠를 가졌는지 살피며, 그 열쇠로 열 수 있는 문을 제한해야 한다.

원칙은 이미 존재한다. 우리는 사람을 조직에 들일 때 신원을 확인하고, 맡은 역할에 따라 필요한 만큼만 권한을 부여한다. 업무가 달라지면 권한을 조정하고, 조직을 떠나면 회수한다. 중요한 행위는 기록으로 남겨 문제가 발생했을 때 책임의 경로를 확인한다.

에이전틱AI에도 같은 원칙이 필요하다. 검증 가능한 신원을 부여하고, 누구의 명령을 따르는지 확인하는 절차가 먼저다. 권한은 맡은 업무에 필요한 범위로 좁히고, 그 경계를 벗어나는 순간 즉시 멈추도록 설계한다. 한 번의 인증을 영구적인 신뢰로 간주하지 않고, 작동하는 동안에도 신원과 권한의 유효성을 계속 점검하는 제로트러스트 체계가 뒤따른다.

국가 모바일 신분증에 사용된 '분산신원인증(DID)'은 이러한 질서를 구현할 가장 유력한 기술 대안이다. 에이전틱AI의 신원과 권한, 행위 이력을 위·변조하기 어렵게 연결하고 필요한 정보만 검증한다. 자율성을 없애는 것이 아니라 자율성이 안전하게 작동할 울타리를 세우는 일이다.

17세기 러시아가 확인해야 했던 가짜 황자는 세 명이었다. 하지만 오늘 날 기업과 국가는 수천, 수만개의 에이전틱AI를 상대하기 시작했다. 이들은 저마다 자신이 아군이고, 정당한 임무를 수행하며, 필요한 권한을 갖고 있다고 주장할 것이다.
그 수많은 주장 앞에서 필요한 것은 막연한 믿음이 아니라, 먼저 증명하게 만드는 질서다. 가짜 드미트리를 가려내는 절차는 그에게 황위를 내준 뒤가 아니라 그 전에 작동했어야 했다. 에이전틱AI가 조직의 권한을 쥐기 전인 지금이 바로 그 '이전'이다.

김대용 라온시큐어 솔루션사업본부장