[파이낸셜뉴스] 공무원이 단순 문서를 찾거나, 규정을 확인하고 보고서를 작성하는 일까지 인공지능(AI)이 대신하는 새로운 행정지원 시스템을 서울시가 구축한다. 시민용 챗봇 '서울톡'에 생성형 AI를 시범 적용해 미답변 질의 응답률을 높이는 등 행정 서비스 속도와 품질, 시민 만족도를 높인다는 계획이다.
서울시는 7일 공무원의 반복 행정업무를 생성형 AI로 대체하는 '챗봇2.0' 사업에 들어간다고 밝혔다.
올해 내부망에 자체 초거대 언어모델(LLM)을 도입해 일부 부서를 대상으로 시범 운영에 들어간다. 내년부터는 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대할 예정이다.
서울시는 "챗봇2.0은 1세대 챗봇의 기술적 한계를 넘어 생성형 AI 기반의 유연하고 정교한 AI 행정 지원 체계로 전환한다는 점이 핵심"이라고 설명했다.
서울시는 앞서 2020년 시민용 챗봇 서울톡, 2023년에는 직원용 업무 챗봇 등 민원·행정 자동화를 도입한 바 있다. 다만 모두 정해진 규칙과 검색 기반 고정 응답 방식으로, 유연한 대화 생성이나 맥락 이해가 필요한 복합 질의에는 한계를 보였다.
챗봇2.0은 기술적 측면에서 '서울시 자체 LLM'을 내부망에 직접 도입한다는 점이 기존 사업과의 차별점이다. 시는 이번 사업을 통해 민감한 공공데이터를 안전하게 처리할 수 있는 독립적 인프라를 구축하고 행정 수요에 최적화된 실용적인 생성형 AI 서비스를 실행할 계획이다.
특히 공공기관 특성상 내부 정보 보호는 필수적인 요소다. 서울시는 자체 폐쇄망에서 운영하는 LLM 기반 'AI 비서'를 내부망에 구축된 독립형 AI 환경에서만 운용할 방침이다. 올해 그래픽처리장치(GPU) 서버(H200 8GPU)를 도입하고 내년까지 서버 3대를 추가 확보해 폐쇄망 내에서 고도화된 생성형 AI 서비스가 시행될 수 있도록 단계적으로 확대해 나갈 계획이다.
시는 단순한 디지털 도구 도입을 넘어 행정 조직의 업무 방식과 체질을 전환하는 첫걸음이 될 것으로 기대하고 있다. 실제로 시의 자체 설문조사 결과, △문서 초안 자동 작성(23%) △문서 요약 및 정리(20%) △내부 문서 기반 질의응답(16%) 등 생성형 AI에 대한 직원들의 수요가 있는 것으로 나타났다.
시는 오는 연말까지 시범 적용 이후, 내년부터는 행정 시스템 연계 LLM 응용프로그램인터페이스(API)와 AI 에이전트를 도입해 문서 자동화, 의사결정 지원 등 고도화된 기능으로 확대할 계획이다.
다만 대시민 서비스를 포함한 전면 확산은 신중하게 접근할 필요가 있는 만큼 단계적으로 추진해 나간다는 방침이다. 또 자문을 통해 AI 인프라, 검색연계(RAG), 운영체계 전반에 걸쳐 확장·효율성을 고려한 구조 설계가 필요하다는 의견도 제시됐다.
강옥현 서울시 디지털도시국장은 "챗봇2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대한다"며 "공공행정 전반에 AI를 적극 활용해 국내를 넘어 '글로벌 AI 행정도시'로 거듭날 것"이라고 말했다.
chlee1@fnnews.com 이창훈 기자
※ 저작권자 ⓒ 파이낸셜뉴스, 무단전재-재배포 금지