[포럼] 진화하는 여론조작

얼마 전까지만 해도 여론 형성의 주된 창구가 댓글과 입소문이었다면, 이제는 생성형 인공지능(AI)이 이를 빠르게 대체하고 있다. 제품을 선택하거나 인물 정보를 확인할 때 포털 검색보다 AI가 선별해 요약한 답변을 찾는 일이 훨씬 더 자연스러워졌다. 정보 소비의 패러다임이 능동적 탐색에서 AI 활용으로 바뀌고 있다.

문제는 'AI는 객관적이고 답변은 진실할 것'이라는 과도한 믿음이다. 실제 AI로 조작된 군사시설 이미지가 사실처럼 유포되어 긴장이 고조되기도 했고, 관료들의 호화생활을 꾸며낸 딥페이크 영상이 여론을 호도하기도 했다. 생성형 AI가 만들어낸 허위정보가 SNS를 통해 확산되면서 금융시장이 단시간에 요동친 사례도 있었다. 이제 AI가 안보 영역을 넘어 시장과 국제 경제까지 흔들 수 있는 시대가 된 것이다.

더욱 심각한 문제는 AI를 악용한 조직적 여론조작이다. 특정 정치 성향을 편파적으로 반영한다는 의혹에 휩싸인 AI 서비스가 논란이 되고, 과장된 콘텐츠를 대량생산해 배포함으로써 AI의 답변에 영향을 미치려는 새로운 조작 방법도 확산되고 있다. 특정 정보의 노출 빈도와 신뢰도를 결정짓는 알고리즘의 편향성 문제 또한 끊이지 않는다.

과거 필자가 수사와 재판에 참여했던 국가정보원 여론조작 사건이나 수법이 비슷한 드루킹 사건이 댓글이나 추천 수를 조작해 여론을 간접 왜곡하는 방식이었다면, 생성형 AI는 정보를 직접 선별하고 재구성하는 특성상 이용자의 인식 형성 과정에 직접 영향을 미칠 수 있다. 조작은 한층 은밀하고 정교해졌지만, 적발은 더 어려워졌고 파급력은 이전과 비교할 수 없을 만큼 커졌다. 그렇다고 AI 기술의 발전을 인위적으로 늦추는 것은 현실적이지도, 바람직하지도 않다. 필요한 것은 AI의 신뢰성을 담보할 수 있는 제도적 장치다. 영업비밀을 침해하지 않는 선에서 AI 학습 데이터의 출처와 알고리즘 운영 원칙의 투명성을 보장하는 가이드라인을 마련하고, 독립적인 검증체계를 통해 편향성과 안전성을 상시 점검해야 한다.

입법적 보완도 시급하다. AI 학습 데이터를 의도적으로 오염시키거나 알고리즘 작동 또는 데이터 처리 과정을 부당하게 조작하는 행위를 부정경쟁행위 등 불법행위로 명확히 규정하는 한편, AI를 이용한 조직적이고 기만적인 여론조작에 실효적으로 대응할 수 있도록 공직선거법 등 관련 법령도 정비해야 한다.

기업의 책임도 중요하다. AI를 활용한 인위적인 평판 관리나 여론 조성이 단기적으로는 마케팅 효과를 가져올지 몰라도, 장기적으로는 법적 분쟁이나 치명적인 신뢰 훼손으로 이어질 수 있음을 직시해야 한다. 한편으로 악의적 허위정보 공격으로부터 기업 가치와 브랜드 신뢰를 지켜 내기 위한 대응체계 구축은 이제 선택이 아닌 경영의 필수 과제가 되었다.

AI 시대의 진정한 경쟁력은 신뢰와 투명성 확보에 있다. 기술은 가치중립적일지 몰라도 이를 설계하고 운영하는 인간의 의도까지 반드시 그런 것은 아니다. 무엇보다 이용자 스스로가 AI의 답변을 비판 없이 수용하기보다는 다양한 정보와 교차 검증하겠다는 성숙한 자세를 갖추어야 한다. 여기에 투명한 제도적 안전장치가 뒷받침될 때, AI는 성장과 혁신의 든든한 기반이 될 수 있을 것이다.

김태은 법무법인 비트 대표변호사