국제
국제경제
오픈AI 퇴직 직원 "AI, 여러 겹의 안전 장치 필요"
사내 최장기 근속자 중 하나
[파이낸셜뉴스] 전 오픈AI 직원이 모든 인공지능(AI) 업계가 개발 속도에만 집중하느라 안전 문제를 등한시하고 있다고 지적했다. 그러면서 여러 겹의 예비 장치가 필요하다고 강조했다.
4일 인공지능 업계에 따르면 데이비드 로빈슨 전 오픈AI 안전 담당 직원은 3일(현지시간) 한 기고문에서 "오픈AI는 문제를 찾으면 가드레일을 개선하는 방식으로 성장해왔다"며 "다만 이 방식은 주기적인 실패를 가져온다"고 했다.
그는 그러면서 "(AI를) 구축하는 기업들이 충분히 신중하지 않다는 다른 퇴사자들의 의견에 동의한다"며 "시스템이 강력해질수록 실패의 크기도 커지고 있다"고 덧붙였다.
로빈슨은 AI모델의 테스트 감지 능력이 향상됐다며 시험 단계와 배포 시 다르게 행동하는 형태 등으로 개발진을 속일 가능성도 있다고 했다.
그는 "이러한 환경은 우리보다도 더 똑똑해질 수 있다"며 "우리가 원하는 대로 작동하지 않을 수 있는 AI를 키워낼 장소가 아니다"며 "AI를 여러 겹의 예비 장치와 신중한 계획을 갖춘 원자력 발전소처럼 운영해야 한다"고 말했다.
이에 대해 오픈AI 측은 안전장치를 마련하고 있다고 해명했다.
한편 로빈슨은 오픈AI에서 3년 반 동안 근무한 사내 최장기 근속자 중 하나다. 주 업무는 안전 보고서 작성이었다.
[email protected] 권준호 기자
※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지
