[강남視角] AI윤리와 '공짜 점심'

비즈니스에 윤리가 등장하면 긴장부터 한다. 윤리는 수익을 갉아먹는 비용이라는 순진한 발상 때문이다. 최근 정부가 마련한 '인공지능(AI) 윤리원칙'에 대해서도 업계가 바짝 경계했다. 법적 구속력 없는 자율규범인데도 그렇다. 물론 그럴 만한 사정이 있긴 하다. 이 원칙을 기준 삼아 앞으로 기업용 자율점검표가 나오고 향후 관련 법 개정에도 영향을 미칠 수 있어서다.

그러나 한국의 AI 윤리기준은 생각보다 물렁물렁하다. AI 윤리원칙의 근거가 된 상위법인 AI기본법을 보면 알 수 있다. 유럽연합의 AI 기본법은 규제 표현을 '고위험'이라고 지칭한다. AI 제품이나 서비스가 인간에게 미치는 문제를 위험으로 규정한다. 반면 한국의 AI기본법에선 '고영향'이라는 단어를 쓴다. 영향이란 단어는 긍정도 부정도 아닌 중립성을 띤다. 강한 윤리기준을 주장하는 시민단체와 규제 완화를 외치는 업계 사이에서 물에 물 탄 듯 술에 술 탄 듯 모호해진 표현이 바로 '고영향'이라는 기묘한 용어다. AI 윤리원칙의 모법이 이렇게 생겼으니 적당한 타협의 장은 마련된 셈이다.

제도 불확실성에 불안해하기보다 차라리 윤리에 대한 얕은 사고를 바꾸는 게 낫다. 소비자들은 AI 편익에 무임승차하려는 경향이 강하다. 우리는 AI에 종종 모순된 요구를 한다. 자신을 잘 알고 편하게 보호해주는 AI를 원하면서 개인정보는 최대한 지키려 한다. 귀찮은 일은 AI가 처리해주길 바라면서 중요한 결정권은 자신이 쥐려 한다. 빠르고 강력한 AI를 원하면서 오류와 사고 가능성은 용납할 수 없다. AI를 만든 기업의 책임을 강하게 물으면서 서비스 출시가 늦거나 가격이 오르는 건 원치 않는다. 편리함에는 비용과 책임이 따른다는 사실을 애써 부인하며 AI 윤리를 논한다면 탁상공론으로 끝날 뿐이다.

기업도 실용적인 태도 전환이 요구된다. AI 윤리는 선악을 가르는 문제가 아니다. 개인화와 프라이버시, 자동화와 인간통제, 혁신의 속도와 검증의 시간, 기업의 효율과 사회의 안전 가운데 적정한 균형점을 정하는 과정이다. 실제로 허술한 기업 윤리가 법적 분쟁을 낳아 곤욕을 치르곤 한다. 최근 개인정보와 기업데이터 유출은 사이버 사고다. AI 알고리즘을 활용한 차별적인 채용이나 금융투자 실패는 기업 평판을 훼손한다. AI 에이전트가 잘못된 권한을 행사하면 서비스나 기업시스템 자체를 멈춰 세운다. AI 윤리는 법무, 보안, 품질, 투자위험, 평판과 사업연속성 전반으로 파고들고 있다.

이제 AI 윤리는 비용과 투자의 방정식으로 봐야 한다. AI 윤리와 산업 경쟁력을 반대편에 세우는 시각은 낡은 생각이다. 최근 메타의 사례를 살펴보자. 메타는 미국 수십 개 주와 청소년의 SNS 중독·정신건강 피해를 둘러싼 소송에서 10년간 최대 180억달러를 지불하기로 합의했다. 디지털 윤리 문제로 천문학적인 최대 비용을 치렀다. 반면 이러한 윤리적 잣대는 메타의 경쟁자들이 진입하기 힘든 장벽으로 작용한다는 점에서 엄청난 투자이기도 하다.

AI 윤리 기준은 앞으로 더 자주 더 깐깐하게 바뀔 운명이다. 올해 선보인 윤리원칙도 2020년 기준을 업그레이드한 버전이다. 6년 만에 다시 원칙을 고친 이유는 그사이에 챗GPT가 등장하면서 엄청난 기술의 변화가 있었기 때문이다. 2020년에는 알고리즘 편향과 개인정보, 설명 가능성이 AI 윤리의 중심이었다. 그러나 생성형 AI가 대중화되면서 저작권과 환각, 딥페이크, 허위정보, 과의존이 새로운 문제로 부상해 2020년 윤리 기준으로 감당할 수 없게 됐다.

앞으로 기술 변화의 속도와 영향력은 더욱 가파르게 커질 것이다. AI 에이전트 등장, 공공 영역의 AI 전환, 그리고 피지컬 AI 배치가 본격화되면 새로 만든 윤리 버전으로 감당 못 할 일들이 또 벌어질 게 뻔하다. AI가 촉발할 윤리 논쟁도 피하기보다 기민하게 적극 대응할 때 사업 기회가 잡힌다. AI 윤리에 공짜 점심은 없다.

[email protected] 조창원 기자