"나 사표 쓸까? 이직할 회사 좀 찾아줄래?" 생각·판단까지 AI 맡긴 인간 [AI 사피엔스-지적 주권을 묻다②]

[② AI가 정한 기준 앞에 선 사람들]
편리함 뒤 낮아지는 '비판적 사고'
질문보다 답변에 익숙해진 이용자들

[파이낸셜뉴스] #. 30대 직장인 A씨는 이직을 준비하면서 인공지능(AI)에 채용 공고와 자신의 경력을 입력했다. 어떤 회사가 자신에게 맞는지 비교해달라고 하자 AI는 연봉과 출퇴근 시간, 경력 개발 가능성을 기준으로 회사를 순서대로 정리했다. 자기소개서 문장과 면접 예상 질문도 AI가 만들어줬다.

A씨는 AI 답변을 참고해 지원서를 작성했다. 그러나 어느 순간부터 자신이 어떤 일을 원하는지 직접 정리하지 않고, AI가 만든 기준에 맞춰 회사를 판단하고 있다는 생각이 들었다.

A씨는 예전에는 여러 채용 사이트를 열어 근무 조건과 직무 내용을 직접 비교했다. 지금은 공고를 한꺼번에 복사해 AI에 넣고 "나에게 가장 적합한 곳을 골라달라"고 요청한다. 그는 "정보를 찾는 시간은 줄었는데, 제가 무엇을 중요하게 생각하는지 생각하는 시간도 함께 줄었다"고 말했다.

AI는 검색 결과를 나열하는 데 그치지 않고 이용자의 질문에 맞춰 정보를 추리고 순서를 정한다. 글쓰기와 자료 정리에서도 문장을 대신 만들고, 여러 의견 중 하나를 골라 이유까지 설명한다. 이용자는 AI의 답변을 읽은 뒤 내용을 고치는 역할에 머물 수 있다.

정보를 찾는 방식부터 달라졌다. 과거에는 검색어를 입력하고 여러 사이트를 열어 자료를 비교한 뒤 필요한 내용을 골랐다. 생성형 AI를 이용하면 질문을 한 번 입력한 뒤 여러 자료를 요약한 답변을 받을 수 있다. 검색 과정에서 이용자가 직접 해야 했던 선택과 정리의 일부를 AI가 처리하는 방식이다.

이런 변화는 정보 탐색의 주도권 문제로도 이어진다. 이용자가 직접 여러 자료를 비교하기보다 AI가 골라낸 답변을 먼저 받아들이는 구조가 만들어질 수 있어서다.

정보통신정책연구원(KISDI)은 'AI 시대의 규제이슈 변화와 플랫폼 자율규제의 방향'에서 생성형 AI 기반 검색·추천 서비스가 여러 문서를 나열하는 방식에서 벗어나, AI가 선별하고 종합한 단일 또는 소수의 답변을 제공하는 방식으로 바뀌고 있다고 설명했다. 보고서는 생성형 AI가 "정보 선택과 해석의 주도권이 이용자에서 AI로 이전될 가능성을 내포"한다고 분석했다.

AI가 제공하는 답변은 빠르고 읽기 쉽다. 긴 보고서에서 핵심만 뽑아주고, 서로 다른 주장도 표로 정리한다. 이용자가 직접 자료를 찾고 비교하는 부담이 줄어들면서 AI를 계속 사용하는 이유도 커진다.

A씨는 이직할 회사를 고를 때 AI가 정리한 항목을 그대로 활용했다. 처음에는 연봉과 거리만 비교해달라고 했지만, AI는 업무 강도와 성장 가능성, 조직문화까지 평가 항목에 넣었다. A씨는 자신이 입력하지 않은 기준이 포함됐다는 사실을 뒤늦게 확인했다. AI가 만든 비교표가 편리하다는 이유로 평가 기준 자체를 다시 검토하지 않은 것이다.

AI에 자료 정리를 맡기면 사용자는 완성된 요약문부터 읽게 된다. 원문을 읽기 전에 핵심 내용과 결론을 알 수 있어 시간을 줄일 수 있지만, 어떤 자료가 빠졌는지 확인하기는 어렵다. AI가 중요하다고 판단한 내용과 사용자가 중요하게 봐야 할 내용이 다를 수 있기 때문이다.

회의자료를 준비하던 40대 직장인 B씨는 여러 부서에서 받은 문서를 AI에 넣고 공통된 주장과 차이점을 정리해달라고 요청했다. AI는 부서별 입장을 깔끔하게 묶었지만, 한 부서가 반복해서 제기한 문제의 배경은 짧게 줄였다. B씨는 원문을 다시 읽은 뒤 빠진 내용을 추가했다. 그는 "요약본만 보면 모든 부서의 의견이 비슷해 보였는데, 원문에는 서로 책임을 미루는 내용이 있었다"고 털어놨다.

AI는 사용자가 어떤 내용을 찾는지 파악해 답변을 구성한다. 그러나 이용자가 처음부터 잘못된 전제를 입력하면 그 전제를 수정하지 않은 채 답변을 이어갈 수 있다. 질문이 편향돼 있거나 필요한 조건이 빠져 있어도 문장 자체는 자연스럽게 완성된다.

이 때문에 생성형 AI가 만든 답변은 편리하지만, 그대로 받아들이기에는 위험이 따른다. 답변을 받는 속도와 별개로 출처와 맥락을 다시 확인하는 과정이 필요하다는 뜻이다.

KISDI 보고서는 이용자가 생성형 AI에게 정보 탐색과 처리, 의사결정 과정을 맡기고 출처 확인을 생략할 수 있다고 설명했다. 보고서는 생성형 AI의 편의성이 정보 탐색 시간을 줄이는 반면, 이용자가 AI가 만든 내용을 최종적인 사실로 받아들일 위험이 있다고 분석했다.

생성형 AI에 대한 신뢰가 높을수록 이용자가 직접 사고하는 시간이 줄어들 수 있다는 연구 결과도 있다. 마이크로소프트 리서치 연구진은 2025년 국제 인간-컴퓨터 상호작용 학회 CHI에서 '생성형 AI가 비판적 사고에 미치는 영향: 지식노동자 조사에서 인지적 노력 감소와 신뢰도 효과'를 발표했다.

연구진은 지식노동자 319명을 대상으로 생성형 AI를 업무에 사용한 사례 936건을 조사했다. 조사 결과 AI에 대한 신뢰가 높을수록 비판적 사고를 수행하는 정도가 낮았다. 반대로 자신의 업무 능력에 대한 자신감이 높은 사람은 비판적 사고를 더 많이 수행한다고 응답했다.

이 연구에서 말하는 비판적 사고는 단순히 답이 맞는지 확인하는 일만 뜻하지 않는다. 문제를 분석하고, 여러 정보를 종합하고, 결과를 평가하는 과정이 포함된다. A씨가 회사 선택의 우선순위를 정하고, B씨가 부서별 문서의 배경을 확인하는 일도 여기에 해당한다.

연구진은 AI를 사용하면서 비판적 사고의 내용도 달라졌다고 설명했다. AI를 사용하기 전에는 문제를 분석하고 해결책을 직접 만드는 일이 중심이었다면, AI를 사용한 뒤에는 정보 검증과 답변 통합, 과업 관리가 주요 활동이 됐다는 설명이다.

정보를 많이 읽는 것과 직접 생각하는 것은 같은 일이 아니다. AI가 여러 자료를 요약해도 이용자가 원문을 확인하지 않으면 중요한 조건이나 반대 의견을 놓칠 수 있다. AI가 만든 결론을 여러 차례 수정해도 판단 기준을 스스로 세우지 않았다면 다음 문제에 적용하기 어렵다.

A씨는 이후 이직 지원서를 다시 작성하면서 먼저 자신이 원하는 업무 조건을 세 가지로 정리했다. 그 내용을 AI에 입력해 표현과 순서를 고쳤지만, 회사 추천과 지원 이유는 직접 작성했다. 그는 "AI에게 답을 달라고 하기보다 제가 정한 기준을 검토해달라고 요청하는 편이 차라리 괜찮았다"고 말했다.

전문가는 AI가 일을 덜어주는 도구가 될 수 있지만, 사용자가 생각할 과정까지 넘기면 결과를 확인하는 데 머물 수 있다고 설명했다. 조영환 서울대 교육학과 교수는 서울대 국가미래전략원 'AI 공존사회 발표회 II' 발표 초록에서 "AI가 인지 부담을 줄이고 혼자 하기 어려운 성과를 가져다주면서 AI 의존 현상이 커지고 있다"고 분석했다. 조 교수는 "인간-AI 시스템의 성과가 항상 인간의 깊이 있는 학습으로 이어지는 것은 아니다"라며 "스스로 생각하지 않고 AI에게 과제를 위임하고 그 결과에 만족하는 상호수동성(interpassivity)이 발생할 수 있다"고 우려했다.

[email protected] 한승곤 기자