오픈AI, 해킹 예방하는 AI 'GPT-6 사이버' 공개[글로벌AI브리핑]
[파이낸셜뉴스] 오픈AI가 보안 취약점을 찾아내고 실제 공격 가능성을 검증하는 사이버 보안 전용 인공지능(AI) 모델 'GPT-6 사이버'를 공개했다. AI가 소프트웨어의 보안 구멍을 찾아내는 데 그치지 않고 스스로 공격 코드를 만들어 위험성을 확인하고 수정까지 지원하는 기술이다.
최근 구글이 해킹 취약점을 찾아 직접 수정코드를 제안하는 프런티어모델 '제미나이 4 카본(Gemini 4 Carbon)'을 공개한데 이어 오픈AI까지 보안 취약점 확인과 수정을 지원하는 AI를 공개하면서, 보안 시장이 글로벌 AI기업들의 공략지로 부상하는 모양새다. 반면 강력한 성능의 AI들이 스스로 공격코드를 작성하는 기능을 갖추면서, 자칫 해커들의 도구로 악용될 수 있다는 우려도 커지고 있다.
5일(현지시간) 오픈AI는 공식 블로그를 통해 소프트웨어 소스코드를 분석해 보안 취약점을 발견하고, 실제로 악용할 수 있는지 검증하하는데 이어 수정 방안까지 제시하도록 훈련한 사이버 보안 특화 'GPT-6 사이버'를 공개했다.
오픈AI는 'GPT-6 사이버'를 승인된 공격형 보안 파트너 프로그램인 '데이브레이크 레드(Daybreak Red)' 사용자에게 응용프로그램 인터페이스(API) 및 코덱스(Codex) 형태로 우선 공급한다고 밝혔다.
오픈AI는 'GPT-6 사이버'가 웹브라우저 파이어폭스에서 기존에 알려지지 않았던 고위험 취약점 81개를 찾아냈다고 밝혔다. 또 리눅스 커널에서는 취약점 1724개를 재현하고 이 가운데 948개에 대해 실제 작동하는 공격 코드를 개발했다고 덧붙였다.
오랜 기간 보안 검증을 받아온 소프트웨어에서도 새로운 보안 구멍을 발견한 것이다.
오픈AI는 "해당 결과를 관련 개발자들에게 공개하고 수정 후보 코드를 전달했다"고 강조했다.
파이어폭스 개발사 모질라는 일부 취약점의 수정 사항을 이미 배포했다.
오픈AI는 'GPT-6 사이버'를 자사 제품 최초로 '준비태세 프레임워크(Preparedness Framework)' 기준 사이버 위험 평가 최고 수준인 '크리티컬(Critical·최고 위험)' 등급으로 지정했다고 강조했다.
이에 대해 오픈AI는 "해커보다 먼저 약점을 찾아 보완하는 방어용 도구이지만, 악용될 경우 전산망 마비 등 막대한 피해를 유발할 위험성을 품고 있기 때문"이라고 설명했다.
결국 오픈AI가 스스로 보안 특화 AI 모델이 악용될 경우 강력한 해킹도구가 될 수 있다는 위험성을 인정한 셈이다.
업계 전문가들은 AI 기업들의 보안 특화 AI 성능 향상이 글로벌 보안시장의 공격 위협과 방어 능력을 동시에 겨냥하는 '양날의 칼'이 될 수 있다고 진단하고 있다.
[email protected] 이구순 기자
