“급속한 생성형AI 발전···그 이면 위험과 규제도 봐야”

딜로이트 아시아태평양규제전략센터(ACRS)
‘아태 지역의 생성형 AI 적용 및 규제’ 국문본

‘아시아 태평양 지역의 생성형 AI 적용 및 규제’ 국문본 보고서 요약본 / 자료=딜로이트 안진회계법인 제공

[파이낸셜뉴스] 생성형 인공지능(AI) 발전과 함께 관련 위험과 규제에 대응해야 한단 주장이 나왔다. 특히 금융회사들은 AI 기술 혁신을 통해 소비자 경험을 강화하고 기업 이익을 확대하기 위해 AI 거버넌스 프레임을 구축해야 한다고 권고됐다.

7일 한국 딜로이트 그룹에 따르면 최근 발간된 딜로이트 아시아태평양규제전략센터(ACRS) ‘아시아 태평양 지역의 생성형 AI 적용 및 규제’ 국문본 보고서에 이 같은 내용이 담겼다.

해당 보고서는 아시아태평양(아태) 지역 기술·규제 관련 딜로이트 글로벌 전문가 12명과의 인터뷰를 통해 구성됐다. 정책 및 규제 당국이 기술 발전에 따라 기존 AI 프레임워크를 어떻게 재평가하는지 분석하고, 금융기업들이 규제 변화에 따른 미래 환경에 선제적으로 대비할 수 있는 방안을 제시한다.

오픈 AI ‘챗GPT(ChatGPT)’, 구글 ‘바드(Bard)’ 등은 AI 기술 개발 혁신과 함께 생성형 AI의 대중화를 이끌었다.

이에 따라 아태 규제 당국 공통 위험에 대한 원칙도 빠르게 진화하고 있다.

보고서는 규제 당국이 지적재산 침해, 잠재적 편향 등 AI로 인한 여러 위험 요소들을 고려해 기술 혁신을 통한 이익과 소비자 안전 사이의 균형을 찾아야 한다고 강조한다. 특히 개인정보 유출, 재정적 위험 등 민감한 잠재 리스크를 가진 금융 서비스의 경우 규제 당국의 관심과 압박이 가시화될 수 있다고 분석한다.

관련 위험을 식별 및 관리하기 위한 방안으로는 △향후 규제 준수와 위험 관리 지원을 위한 AI 거버넌스 프레임워크 개발 △학력, 소득 등 고객의 취약성에 대한 생성형 AI의 편향 또는 차별 발생 방지 조치 구축 △고객 개인정보 등 데이터 보호 의무 준수 △지적 재산의 부주의한 노출이나 저작권 침해를 방지하기 위한 통제장치 구축 △생성형 AI 기술 관련 인재 확보 투자 및 기존 임직원 대상 AI 기술 교육 제공 등이 제시됐다.

마쓰야마 아키히로 딜로이트 아시아태평양 리스크 자문 리더는 “AI 규제 및 법안은 아직 대다수 국가에서 개발이나 시행 초기 단계에 있지만, 금융회사는 가능한 한 빠르게 자체 AI 거버넌스 프레임워크를 구축하고 관련 위험에 대응하기 위한 조치를 준비해야 한다”며 “민간 부문은 규제 기관 및 입법 당국자와의 적극적 대화를 통해 규칙 제정 절차를 원활하게 하고, AI의 미래 경로에 대한 공감대를 이끌어내는 게 필수적”이라고 설명했다.

장형수 한국 딜로이트 그룹 금융산업통합서비스그룹 고객산업 리더는 “생성형AI 도입으로 업무 효율성 향상과 고객경험 최적화와 같은 업무성장 동력을 확보하고 경쟁력 우위를 부각하려는 금융사는 편향성과 지적 재산권 침해, 규제 위험에 직면할 수 있다”고 지적했다.

[e-mail] 김태일 기자