유럽연합(EU) 의회가 13일(현지시간) 세계 최초로 인공지능(AI) 규제 법안을 마련했다.
올해 말부터 순차적으로 법이 시행될 전망이다.
CNBC 등 외신에 따르면 EU 의회는 이날 찬성 523, 반대 46으로 세계 최초의 AI규제법안 'AI법'을 통과시켰다. 기권은 49표였다.
앞서 EU 정상들은 지난해 12월 회의에서 AI법 마련에 찬성한 바 있다.
티에리 브르통 EU 내부시장담당집행위원은 소셜미디어에 올린 글에서 "유럽은 이제 AI의 국제기준을 만드는 곳이 됐다"고 자평했다.
로베르타 메촐라 유럽의회 의장은 이번 AI법이 선구자 역할을 할 것이라면서 기본권을 안전하게 지키는 세이프가드로 작동하는 한편 혁신도 가능하게 해 줄 것이라고 말했다.
법규정이 마련돼 AI 연구에서 금지되는 기준이 명확하게 제시되면 이 기준을 위반하지 않는 연구는 허용되기 때문에 혁신이 가능하다는 것이다.
메촐라 의장은 "이미 AI는 우리 일상생활에서 매우 큰 부분이 됐다"면서 "이제 입법에서도 주요 분야가 될 것"이라고 덧붙였다.
이날 유럽의회를 통과한 AI법은 다음달 EU 27개국 장관들이 최종 승인하면 관보 게재를 거쳐 발효된다.
일부 금지 조항은 발효 6개월뒤부터 적용된다. 금지 조항은 이후 단계적으로 확대돼 2026년에는 전면 시행된다.
EU는 AI 활용분야를 4단계 위험등급으로 나눠 차등적으로 규제하게 된다.
의료·교육 등 공공서비스, 선거, 핵심 인프라, 자율주행 등은 고위험등급으로 분류됐다.
고위험등급에서는 AI 기술을 사용할 때 사람이 반드시 감독해야 한다. 또 위험관리시스템도 구축해야 한다.
범용AI(AGI)를 개발할 때에는 '투명성의무'도 지켜야 한다. AGI란 사람과 유사한, 또는 그 이상의 지능을 갖춘 AI를 말한다.
AGI 투명성의무는 2021년 법안 초안이 발의됐던 때에는 없던 조항이다. 그러나 2022년 오픈AI가 챗GPT-3를 공개하면서 생성형AI의 영향력이 입증된 뒤 법안에 추가됐다. AI 오남용 우려가 본격적으로 제기되면서 투명성의무가 더해졌다.
AI기업들은 아울러 EU가 시스템위험이라고 규정한 사고 발생을 방지해아 한다. EU는 사이버공격, 유해한 선입견 전파 등을 시스템위험으로 규정했다.
또 개인의 특성·행동 데이터에 점수를 매기는 이른바 '사회적 점수매기기(소셜스코어링·social scoring)'도 금지된다.
아울러 AI를 활용해 실시간으로 CCTV 등을 통해 개인의 신원을 파악하는 것 역시 금지된다. 강간, 테러 등 중대 범죄 용의자 수색 등 일부 예외는 있지만 이때에도 법원에서 영장을 받도록 했다.
AI규제법은 또 딥페이크 영상이나 이미지에는 AI로 조작된 컨텐츠라는 것을 반드시 표시하도록 했다.
AI규제법을 위반하면 전세계 매출의 1.5~7%를 과징금으로 물어야 할 수도 있다.
dympna@fnnews.com 송경재 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지