"해킹하는 AI… 빅테크와 협업해 보안모델 키워야"
AI해커 만든 윤인수 카이스트 교수
"인공지능(AI)이 해킹하는 시대다. 프론티어 모델을 개발해야 하고, 그 사이 빅테크들과 적극 협업해야한다"
'AI 해커'를 개발한 윤인수 한국과학기술원(KAIST) 교수(사진)가 지난 24일 열린 해킹방어대회 '코드게이트 2026' 직후 진행된 인터뷰에서 이 같이 말했다. 그는 "AI가 해킹을 하는 시대가 현실이 됐다"며 "이전에는 해킹 우려가 거의 없던 시스템까지 AI가 해킹하는 시대"라고 진단했다.
윤 교수 연구팀은 코드게이트 행사에서 AI해커 시스템을 선보였다. AI 해커는 일반부 8개국 20개 팀, 주니어부 3개국 20명과 경쟁을 벌였다. 일반부에서는 18위에 머물렀지만 주니어부에선 2위를 차지했다. 앤스로픽의 '미토스' 처럼 국내에서도 AI보안 모델을 키울 수 있는 가능성을 선보인 셈이다.
윤 교수는 "이제 AI가 잘못된 행동으로 나아가게 되면 사람이 통제할 수 없는 방향으로 나아가기도 한다"며 "예를 들면 (AI에게) 취약점을 찾으라고 했는데 (AI가) 뭔가 이상한 걸 써서 취약점이 아닌데 취약점처럼 보이는 걸 만들어가지고 취약점이라고 하기도 한다"고 말했다.
윤 교수는 "단기적으로는 우리도 상용 모델 수준의 프론티어 모델을 가져야하고 이를 중국 등 외부 모델 등을 활용해 AI를 어떻게 방어할지에 대해 고민해야한다"며 "장기적으로는 궁극적으로 중국이나 미국과 같은 수준의 AI모델을 갖추는 게 필요하다"고 말했다.
윤 교수는 "한국은 빅테크들과 적극적인 파트너십을 잘 맺을 필요가 있다"면서 "삼성이 오픈 AI와 협업한 사례가 좋은 모델인데 그런 인프라와 환경을 만드는 게 진짜 중요하다"고 강조했다.
연지안 기자
