AI윤리원칙 기본은 ‘사람’… 이용자 중심 서비스 개발·제공해야 [기업이 알아야 할 법률상식]

방통위·정보통신정책연 발표
개인정보 보호 등 7가지 내용
사용자·기업·전문가 등 의견 수렴
내용 지속적으로 보완할 예정

인공지능(AI)와 빅데이터, 사물인터넷 등 새로운 지능정보기술이 최근 방송통신서비스에도 다양하게 응용되고 있다. 이런 가운데 방송통신위원회와 정보통신정책연구원은 지난해 11월 '이용자 중심의 지능정보사회를 실현하기 위한 원칙(AI 윤리원칙)'을 발표했다. 새로운 기술 특성에 따라 예기치 못한 기술·사회적 위험을 최소화 하기 위한 것이다. 'AI 윤리원칙'이 향후 AI 기술 개발에 참여하고 있는 국내 기업들에게 어떤 영향이 미칠지 업계의 관심이 쏠린다.

■사람중심 서비스 등이 AI 윤리원칙

19일 법조계에 따르면 AI 윤리원칙은 안전한 지능정보서비스 환경을 조성하는데 목적을 두고 있다. AI 시대를 맞아 이용자의 권리와 이익이 충분히 보호될 수 있도록 정부·기업·이용자 등 지능정보사회의 모든 구성원들이 함께 지켜가야 할 공동의 기본 원칙이다.

AI 윤리원칙은 △사람중심 서비스 △투명성과 설명가능성 △책임성 △안전성 △차별금지 △참여 △프라이버시와 데이터거버넌스 등 7가지 주요 원칙을 포함하고 있다.

우선 '사람 중심'의 서비스 제공을 가장 우선적으로 내세우고 있다. 지능정보서비스의 제공과 이용은 사람을 중심으로 그 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이뤄져야 한다는 것이다.

'투명성과 설명가능성' 원칙은 지능정보서비스가 이용자에게 중대한 영향을 끼칠 경우 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 한다고 밝히고 있다.

'책임성' 원칙에 따르면 구성원들은 지능정보서비스의 올바른 기능과 사람 중심 가치의 보장을 위한 공동의 책임을 인식하고, 관련한 법령과 계약을 준수해야 한다.

안전하고 신뢰 가능한 지능정보서비스 개발과 이용을 위해 모두가 노력해야 한다는 것이 '안전성'의 원칙인데, 지능정보서비스가 초래할 수 있는 피해에 대해 자율적 대비체계를 서비스 제공자와 이용자가 수립하고 운영해야 한다.

'차별금지' 원칙에서는 지능정보서비스가 사회·경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고, 알고리즘 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력해야 한다고 명시한다. 지능정보사회의 구성원들은 공적인 이용자 정책 과정에 차별 없이 참여할 수 있다. '참여' 원칙에 따르면 공적 주체는 제공자와 이용자가 실질적으로 의견을 제시할 수 있는 정기적인 통로를 조성해야 한다.

'프라이버시와 데이터거버넌스' 원칙을 위해서는 지능정보서비스의 개발, 공급 및 이용의 전 과정에서 개인정보 및 프라이버시를 보호해야 한다. 구성원들은 기술적 이익의 향유와 프라이버시 보호 사이의 균형을 위해 지속적 의견 교환에 참여하는 것이 필요하다.

■규제방향 논의 때 기업 의견표명

방통위가 이번에 발표한 원칙은 AI가 일상적으로 사용되는 지능정보시대를 대비, 이용자 보호에 선제적으로 대응하기 위해 마련됐다. 법조계에서는 이번 원칙을 기준으로 향후 구체적인 규제 방향이 결정될 가능성이 높을 것으로 내다봤다.

현재 유럽연합(EU)과 경제협력개발기구(OECD) 등 국제사회는 신뢰 가능한 AI를 위한 가이드라인·권고안 등을 잇달아 발표하는 추세다. 방통위도 지난해 12월 '신뢰를 위한 AI(AI for Trust)'를 주제로 국제컨퍼런스를 개최, 해당 원칙을 소개하고 이용자 보호 방향에 대한 국제적 공감대를 형성해 나가는 자리를 마련했다.

강신욱 변호사(법무법인 세종)는 "방통위는 이번에 발표한 AI 원칙을 초석으로 삼아 향후 이용자·기업·전문가·국제사회 등의 의견을 상시적으로 수렴하고, 원칙을 지속적으로 보완해 나갈 것으로 보인다"며 "AI 기술 개발에 참여하고 있는 국내 기업들은 추가적으로 진행될 논의에 적극적으로 참여해 의견을 개진하고, 향후 구체적인 규제 방향과 영향력 등 동향에도 주의를 기울일 필요가 있다"고 조언했다.

[e-mail] 조상희 기자