6일 국회서 'AI 기본법 투명성·책임성' 토론회
투명성 확보·고영향 책무·안전성 한계 지적돼
가시적 라벨링 아닌 C2PA로 AI 출처 알려야
'주된' 이용자 기준 모호...구체적 조항 필요
고영향 AI 규제, 기존 분야 규제와 조화해야
정부 "국민 불안·업계 우려 중재하고 고민"
[파이낸셜뉴스] "시행령과 하위 법령이 구체화되지 않은 상황에서 '세계 최초'로 인공지능(AI) 기본법을 시행하는 것은 경쟁국에 학습 사례를 제공하는 것이 될 수 있다."
최성진 스타트업성장연구소 대표는 6일 서울 여의도 국회서 열린 'AI 기본법 투명성·책임성 라운드테이블' 토론회에서 "한국이 AI 3강으로 도약하는데 AI 기본법이 걸림돌이 되지 않기 위해서는 예측 가능하고 합리적인 제도가 필요하다"며 이같이 말했다.
스타트업 얼라이언스가 지난달 100개 이상 스타트업을 대상으로 설문 조사를 진행한 결과 기업들 중 49%는 '내용을 잘 모르며 준비도 안되고 있다'고 답했다. 대응 계획을 수립했고 준비 중이라고 답한 기업은 2%에 불과했다. 해당 기업들은 오는 22일부터 AI 기본법 적용을 받으며 법적 책임을 지게 될 예정이다.
이날 최 대표는 AI 기본법의 투명성 확보 의무·고영향 책무·안전성 조항 등이 가진 한계를 언급하며 대안을 제시했다. 현재 AI 기본법에 따르면 AI 사업자가 생성형 AI를 이용할 경우 AI에 의해 만들어졌다는 것을 알려야 한다. 사람이 인식할 수 있는 방법 혹은 기계가 판독할 수 있는 방법으로 표시할 수 있지만 후자의 경우 AI에 의해 만들어졌다는 것을 이용자에게 1회 이상 문구나 음성 등으로 알려야 한다.
최 대표는 "가시적 라벨링 등 사람이 인식할 수 있는 방법을 사용하는 경우 딥페이크 등 악의적 목적을 가진 이용자가 쉽게 삭제할 수 있다"며 "기계가 판독할 경우에는 라벨링보다 높은 기술적 방법이 적용됐기 때문에 안내 음성 등 추가 의무를 부과할 필요가 없다. 디지털 콘텐츠 인증 연합(C2PA) 등 국제적으로 활용되는 기술 표준을 활용하면 결과물 자체에 제작과 편집 이력이 기록돼 조작하기 어렵고 진위 검증이 가능하다"고 말했다.
AI 기본법이 명시하고 있는 '주된' 이용자의 연령, 신체적·사회적 조건 등을 고려해 고시해야 한다는 조항도 불분명하다는 의견이 나왔다. 최 대표는 "가령 이용자 중 10%면 '주된' 이용자인지 아닌지 판별할 수 있는 구체적 기준이 명시돼 있지 않다"며 "모든 조건에 대응할 수 있는 정보를 수집하고 개발하라는 것은 너무 높은 수준의 의무"라고 지적했다.
AI 기본법이 정하고 있는 '고영향 AI'의 경우 AI 사업자가 스스로 해당 여부를 사전 검토해야 한다는 사실이 부담으로 언급됐다. 최 대표는 "중대하게 기본권에 영향을 미치는 AI인지 아닌지 사업자가 판단하기 어렵다. 과학기술정보통신부 장관의 확인을 받을 수는 있지만 현재 법령 상 두 달 가까이 걸린다. 사전 검토기 때문에 서비스 등 출시 자체를 늦춰야 하는 상황"이라고 꼬집었다.
그러면서 "고영향 AI는 원자력, 교통, 자율주행 등 규제 및 관리가 엄격한 특정 분야에 국한된다"며 "해당 분야에 이미 적용되고 있는 안전 및 인허가 기준 등을 AI에 걸맞게 개선해 사업자 책무 이행과 조화를 이루는 것이 합리적"이라고 제안했다.
아울러 최 대표는 "정부가 제도 안착을 위해 최소 1년 이상 규제 유예 기간을 두겠다는 방침을 밝힌 것은 바람직하다"면서도 "사업자들이 준수하기 쉬운 제도가 필요하다"고 강조했다.
이날 토론에 참석한 최우석 과기정통부 인공지능안전신뢰지원과 과장은 "법 내용을 잘 모르는 기업들과 기관들에게 상담을 진행해야 할 시기라고 생각한다. (해당 차원에서) 유예 방침을 밝힌 바 있으며 효과적으로 계도하기 위한 방안도 함께 고민 중"이라며 "(AI 기본법은) 단순히 규제를 위한 것이 아닌 위험을 관리하는 것이 목적이다. 국민 불안을 잠재우면서 동시에 업계들이 국내외 역차별 이슈를 겪지 않도록 EU 등과 긴밀히 협력해 상호 운용성을 확보해나갈 것"이라고 밝혔다.
kaya@fnnews.com 최혜림 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지