AI기본법 내년 1월 시행…"신약 개발사, '이것' 준비해야"

"전면 시행 한국이 처음…국제적 관심↑" "리스크 차단 'AI 거버넌스' 구축이 필수"

[서울=뉴시스] 김의석 김·장 법률사무소 변호사는 7일 서울 코엑스에서 열린 ‘바이오코리아 2025’에서 ‘AI 기반 신약 개발에 있어서의 법적 이슈’를 발표했다. 2025.05.07. photo@newsis.com *재판매 및 DB 금지

[서울=뉴시스]송연주 기자 = 내년 1월 시행되는 ‘AI 기본법’을 통해 AI 신약 개발에도 법적 의무가 부여될 전망이다.

김의석 김·장 법률사무소 변호사는 7일 서울 코엑스에서 열린 ‘바이오코리아 2025’에서 ‘AI 기반 신약 개발에 있어서의 법적 이슈’를 발표하며 “유럽연합(EU)의 Act 전면 시행 전에 우리나라의 AI 기본법이 내년 1월 시행될 예정인데, 전면적인 시행은 한국이 처음이라 국제적 관심이 크다”고 밝혔다.

앞서 작년 12월 AI 기술 진흥을 위한 법적 근거를 담은 ‘AI 기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)이 국회 본회의를 통과했다. 내년 1월 시행 예정이다.

이 법의 주요 내용은 ▲고영향 인공지능에 대해서는 강화된 규제 부과 ▲생성형 인공지능 관련된 사업자의 의무 부과 ▲학습에 사용된 누적 연산량이 높은 인공지능 관련 사업자 의무 ▲과기정통부장관의 사실조사 및 중지·시정명령 등이다.

그중에서도 업계의 관심이 큰 ‘고영향 AI 사업자’에게는 ▲안전성·신뢰성 확보조치 이행의무 ▲사전고지의무 ▲사전검토의무 ▲영향평가 등의 의무가 부여된다.

예를 들어, 인공지능 사업자가 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 인공지능이 고영향 인공지능에 해당하는지 사전에 검토해야 하며, 필요한 경우 과학기술정보통신부 장관에게 확인을 요청할 수 있다.

김 변호사는 “사전 검토 의무가 생기므로 고영향 인공지능의 정의 및 기준에 대한 이해가 필요하며 실무적으로 불확실성 해소를 위해 장관에 대한 확인 요청을 적극 활용할 것으로 예상된다”며 “신약 개발 중 임상시험은 고영향 인공지능에 해당할 가능성이 있고 단순한 AI 활용 모델 개발이 고영향에 해당할지는 앞으로 논의해야 알 것”이라고 말했다.

이어 “현재 과기정통부가 주도하고 있는 하위법령(시행령, 고시)의 내용이 중요해질 것”이라며 “시행령은 6월 이후 발표될 것 같고, 시행령보다 고시에 구체적인 내용이 들어갈 수 있다”고 말했다.

고영향 인공지능이란 사람의 생명, 신체의 안전 및 기본권에 중대한 영향이 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 말한다.

또 AI기본법에선 인공지능 개발사업자인지, 이용사업자 인지 등에 따라 준수 의무가 달라진다. AI 개발사업자는 인공지능을 개발해 제공하는 법인, 단체, 개인 및 국가기관을 말한다. AI 이용사업자는 인공지능 개발사업자가 제공한 인공지능을 이용해 인공지능 제품 또는 인공지능 서비스를 제공하는 법인, 단체, 개인 및 국가기관을 말한다. 밥안에선 두 사업자간 의무를 명확하게 규정하고 있지 않아 하위법령을 통해 명확해질 거라는 게 그의 설명이다.

관련 기업은 AI 거버넌스를 구축해야 한다고 제언했다. 그는 “AI에서도 거버넌스가 중요한 화두”라며 “사전에 위험 이슈를 차단하면서 국제 표준과의 정확성을 지키며 혁신을 추구하는 기틀”이라고 말했다.