"생성 AI는 편향 내재화...책임 있는 AI개발 필요"

오픈AI 챗GPT·달리2 등 특정 문화, 언어에 편향
주요 AI모델 북미, 유럽서 생성된 시스템을 기반
편견, 고정관렴 등 초래하지 않도록 AI개발 필요

오픈AI 홈페이지 갈무리

[파이낸셜뉴스] 챗GPT가 불러온 생성형 인공지능(AI) 붐이 가속화되고 있는 가운데, 정부와 기업이 협업을 통해 AI 윤리를 확대해야 한다는 주장이 나왔다. 국내외 전문가들은 기업의 책임 있는 AI 개발과 정부의 적절한 규제가 필요하다고 입을 모으고 있다.

18일 업계에 따르면 윤송이 엔씨소프트 최고전략책임자(CSO)는 최근 열린 포럼에서 AI에 내재된 편향성에 대해 지적하고, 책임 있는 AI의 방향성에 대해 조언했다. AI 스타트업 허깅 페이스와 독일의 대학교 연구진에 따르면 챗GPT 개발사 오픈AI의 이미지 생성 AI 툴 '달리2'에 어떤 명령어를 입력할 경우 주체가 백인이 나올 확률은 97%나 된다. 챗GPT도 특정 문화나 언어에 편향돼 다른 문화나 언어의 관점을 배제할 수 있다.

윤 CSO는 "신뢰할 만한 출처 방법으로 데이터를 얻었더라도 특성이 다양한 데이터를 다루다 보면 어떤 형태든 편향이 생기는 것은 자연스러운 일"이라며 "편향이 사회 특정 계층이나 개인을 부당한 편견에 휩쓸리게 만들 위험이 있어 세심하게 접근할 필요가 있다"고 조언했다.

지난해 주요 머신러닝 시스템을 개발·보유한 국가 리스트. 미국 스탠퍼드대 인간중심인공지능연구소(HAI)의 '2023 AI 인덱스 보고서' 캡처

현재 글로벌 시장의 주요 AI 모델들은 대부분 미국 기업이, 북미에서 생성된 시스템을 기반으로 훈련시키며 개발하고 있기 때문에 편향성 문제가 발생하는 것으로 분석된다. 실제로 미국 스탠퍼드대 인간중심인공지능연구소(HAI)의 '2023 AI 인덱스 보고서'에 따르면 지난해 주요 머신러닝(기계학습) 시스템을 개발·보유한 국가는 미국(16개)이 압도적으로 많다. 그 다음으로 영국(8개), 중국(3개) 등 순이다.

업계 관계자는 "생성형 AI를 개발하는 속도는 빨라지고 있지만 기업이 해결해야 할 편향성 등 근본적 문제는 남아 있다"며 "인종, 성별 등에서도 아직 서구권 인식을 기반으로 AI가 개발되고 있어 이용자들도 AI 이용 시 편향적인 결과에 주의해야 한다"고 전했다. 결국 책임 있는 AI를 위해선 기업과 정부의 노력이 함께 수반돼야 한다.

윤 CSO는 "기업들은 AI에 포함될 수밖에 없는 편견과 고정관념이 부정적인 결과를 초래하지 않도록 하고, 전 세계 다양한 인종이 기술 개발에 참여할 수 있도록 해야 한다"며 "정부는 AI 기술이 지속 성장할 수 있도록 가이드라인을 마련하고 위험으로부터 시민을 보호할 수 있는 규제 장치를 둬 사회적 안전망을 구축해야 한다"고 강조했다. [e-mail] 임수빈 기자