日, AI에이전트·피지컬AI '인간판단 필수' 지침 추진

‘AI사업자 가이드라인’ 개정해 3월 공개 예정

[파이낸셜뉴스] 일본 정부가 AI 에이전트와 피지컬 AI에 대해 '인간의 판단을 필수로 하는 구조를 마련해야 한다'는 내용의 지침을 준비중이라고 15일 일본 니혼게이자이신문(닛케이)가 보도했다.

이는 총무성과 경제산업성이 지난 2024년 제정한 ‘AI 사업자 가이드라인’을 개정하는 것으로, 일본 정부는 3월 말 지침을 공개할 예정이다. 지침에는 AI에이전트와 피지컬AI에 대한 정의, 편익, 위험, 대응책 등을 새롭게 포함할 예정이다.

보도에 따르면 이번 개정의 핵심은 AI에이전트나 피지컬AI의 오작동이나 프라이버시 침해 위험 등을 고려해 AI개발 기업 등에 '인간의 판단을 반드시 거치도록 하는 구조'를 만들도록 의무화하는 것으로 보인다. 위험을 억제하면서 활용을 촉진해 AI 경쟁력을 끌어올린다는 구상이다.

니혼게이자이는 새로운 지침에서 AI 에이전트는 '목표를 달성하기 위해 환경을 감지하고 자율적으로 행동하는 AI시스템'으로 규정하고, 피지컬 AI는 '목적 달성을 위한 최적의 방안을 자율적으로 추론·판단해 물리적 행동으로 연결하는 시스템'으로 정의할 것으로 내다봤다.

이들 시스템의 편익으로는 업무 효율화, 노동력 부족 보완, 안전성 향상, 돌봄 및 생활 지원 등이 지목됐다.

위험성으로는 자율 행동에 의한 오작동, 프라이버시 침해 가능성, 교육 분야에서 학생의 사고력 발달 방해 등이 제시될 것으로 보인다. 대책으로 인간의 판단을 필수로 하는 시스템을 구축하도록 하고, 보안을 유지하기 위해 권한을 최소한으로 제한하는 설정, 하드웨어에 남아 있는 데이터 처리에 대한 배려 등도 요구할 계획이다.

총무성의 2025년 조사에 따르면 해당 지침에 대해 알고 있다는 답변은 81%에 달했으나 실제 활용 비율은 46%에 그쳤다.

지방자치단체나 소규모 사업자까지 확산시키기 위해 내용에 관한 질문에 자동 응답하는 챗봇 등 전용 도구 개발도 검토한다는 방침이다.

일본은 이른바 ‘AI 추진법(AI신법)’으로 불리는 관련 기술 연구개발·활용 촉진법을 2025년 6월 시행해 악질적 사례에 대해서는 국가가 조사할 수 있도록 했다. 이와 별도로 유연하게 변경 가능한 정부 지침을 통해 안전성 등의 기본적 사고방식을 제시하고, 이에 부합하는 규칙 마련을 사업자에게 요구하고 있다.

[e-mail] 이구순 기자