윤인수 교수 "AI가 해킹하는 시대, 프론티어모델 개발하며 빅테크 협업해야"

[파이낸셜뉴스] "인공지능(AI)이 해킹하는 시대다. 프론티어 모델을 개발해야 하고, 그 사이 빅테크들과 적극 협업해야한다"
'AI 해커'를 개발한 윤인수 한국과학기술원(KAIST) 교수가 지난 24일 열린 해킹방어대회 '코드게이트 2026' 직후 진행된 인터뷰에서 이 같이 말했다. 그는 "AI가 해킹을 하는 시대가 현실이 됐다"며 "이전에는 해킹 우려가 거의 없던 시스템까지 AI가 해킹하는 시대"라고 진단했다. 윤 교수 연구팀은 코드게이트 행사에서 AI해커 시스템을 선보였다. AI 해커는 일반부 8개국 20개 팀, 주니어부 3개국 20명과 경쟁을 벌였다. 일반부에서는 18위에 머물렀지만 주니어부에선 2위를 차지했다. 앤스로픽의 '미토스' 처럼 국내에서도 AI보안 모델을 키울 수 있는 가능성을 선보인 셈이다.

윤 교수는 "이제 AI가 잘못된 행동으로 나아가게 되면 사람이 통제할 수 없는 방향으로 나아가기도 한다"며 "예를 들면 (AI에게) 취약점을 찾으라고 했는데 (AI가) 뭔가 이상한 걸 써서 취약점이 아닌데 취약점처럼 보이는 걸 만들어가지고 취약점이라고 하기도 한다"고 말했다.

이어 "그래서 결국 그런 최종적인 결정에서는 사람이 들어가야 된다"며 "이런 것들을 어떻게 내가 AI를 잘 조절할 건지에 대한 고민이 필요하다"고 덧붙였다.

윤 교수는 "단기적으로는 우리도 상용 모델 수준의 프론티어 모델을 가져야하고 이를 중국 등 외부 모델 등을 활용해 AI를 어떻게 방어할지에 대해 고민해야한다"며 "장기적으로는 궁극적으로 중국이나 미국과 같은 수준의 AI모델을 갖추는 게 필요하다"고 말했다.

다만 독자 모델을 갖추는 데 시간이 걸리기 때문에, 이 같은 과도기적 시기를 어떻게 보내느냐가 중요하다는 게 그의 생각이다.

윤 교수는 "한국은 빅테크들과 적극적인 파트너십을 잘 맺을 필요가 있다"면서 "삼성이 오픈 AI와 협업한 사례가 좋은 모델인데 그런 인프라와 환경을 만드는 게 진짜 중요하다"고 강조했다.

우리나라의 AI 경쟁력과 관련해서는 "우리가 미국과 중국에 이어 AI 3강이라고 이야기되는데, 이는 우리나라 규모에 비해 놀라운 것"이라며 "우리는 좋은 인재와 기술력이 자산이고 이를 기반으로 프론티어급 모델을 만들 수 있을 것"이라고 기대했다.
윤 교수는 또 "결국 우리가 할 수 있는 모든 분야에서 이제 AI를 통한 초자동화가 돼야만 효율적 대응이 가능할 것"이라며 "AI 시대에 전문가들은 여전히 필요하고 그런 전문가가 근데 하루아침에 태어나는 것이 아니다. 그래서 전주기적인 지원들이 필요하다"고 했다.

그는 이어 "사람과 AI 해커가 어떻게 협업하는 게 가장 좋은 방식인가에 대해 계속 고민중"이라며 "결국 AI랑 사람이랑 같이 할 때가 가장 좋은 시너지를 낸다면, 그거를 어떤 형태로 하는 게 가장 효과적일 것이냐 또 통제되지 않는 부분을 어떻게 막을 것이냐 같은 것들을 고민한다"고 했다.

[email protected] 연지안 기자