AI는 편견을 극복할까

한국 대표팀이 17년 만에 8강 진출을 달성한 월드베이스볼클래식(WBC)을 계기로 야구를 향한 관심이 어느 때보다 뜨겁다. 2014년 매니지먼트 사이언스지에는 메이저리그의 볼 판정 데이터를 활용한 흥미로운 논문이 실렸다. 이 연구에 따르면 올스타전 출전 경력이 많은 투수일수록 실제 볼이 스트라이크로 잘못 판정되는 경우가 많았고, 스트라이크가 볼로 오판되는 경우는 오히려 적은 것으로 나타났다.

이는 현재의 실적보다 과거의 성과와 명성이 더 유리한 평가를 낳을 수 있다는, 이른바 '마태 효과(Matthew effect)'가 현실에서도 작동함을 실증적으로 보여준다. 가진 사람일수록 더 많은 기회를 얻고, 그렇지 못한 자는 점점 더 기회를 잃는 부익부 빈익빈이 사회구조뿐 아니라 인간의 무의식에도 기인할 수 있다는 점에서 이 결과는 우리에게 무거운 질문을 던진다.

최근 야구에는 자동투구판정시스템(ABS), 챌린지제도 등이 도입되어 인간의 주관이나 순간적 판단에서 비롯되는 오류를 줄이고 있다. 축구 역시 비디오보조심판(VAR)으로 오프사이드나 페널티킥 판정을 재검토하며, 배구에서도 비디오챌린지를 통해 터치 여부나 인·아웃을 가린다.

한때는 인간의 직관과 권위가 지배하던 영역이 기술과 데이터로 대체되는 것이다. 과거였다면 논란으로만 남았을 장면들도 판정기술을 통해 바로잡히고 있다. 물론 "오심도 경기의 일부이며, 그것이 스포츠이고 인생이다"라는 낭만주의적 견해도 있지만, 한 번의 오심이 어떤 선수나 팀의 커리어에는 치명적일 수 있다는 점을 감안하면 이러한 변화를 거스르기는 쉽지 않다.

비단 스포츠계만 변하고 있는 것은 아니다. 기업은 채용 과정에서 인공지능(AI)을 활용해 지원자를 평가함으로써 면접관의 편견과 선입견을 보완하려 하고, 온라인 플랫폼에서는 운영자의 직관이나 선호가 아닌 알고리즘을 바탕으로 콘텐츠를 추천한다. 데이터에 기반한 의사결정은 인간의 확증편향이나 고정관념이 만들어 내는 판단의 오류를 줄일 수 있는 효과적인 도구로 기능한다.

하지만 기술이 반드시 중립적인 것은 아니다. '기술의 진보가 사회의 공정성을 개선할까'라는 질문에 쉽게 답할 수 없는 이유도 여기에 있다. 알고리즘은 과거의 데이터를 학습하고 이를 바탕으로 결과를 도출하는 논리적 과정이지만, 그 과정에는 이미 사회의 과거 편향이 반영되어 있다. 실제로 플랫폼 환경에서는 승자독식 현상이 도리어 강화되는 경향이 있다. 많이 소비된 콘텐츠가 더 많이 노출되며, 영향력 있는 인플루언서는 더욱 큰 영향력을 얻기도 한다. 기술은 오류와 편견을 제거하기도 하지만, 동시에 그것을 더욱 정교하게 확대재생산한다.

중요한 것은 기술 그 자체가 아니라 인간이 어떤 가치관을 바탕으로 그것을 설계하고 활용하느냐일 것이다.

ABS가 스트라이크 존을 바로잡듯, 기술은 공정성을 구현할 수 있는 잠재력을 가지고 있다. 그러나 그 기술이 작동하는 기준과 목적에 대한 성찰이 없다면, 우리는 또 다른 형태의 마태 효과를 만들어낼 수 있다. 기술은 편향을 줄이고 있는가, 아니면 또 다른 방식으로 불평등을 강화하고 있는가. 여전히 우리가 응답해야 할 숙제이다.

최용훈 일본 도시샤대학 상학부 학장