한전에 리벨리온 NPU·AI칩 성능지표 'K-Perf' 첫 적용

"국산 NPU 글로벌 시장 공략 위한 레퍼런스 기대"

[파이낸셜뉴스] 한국전력 변전소에 리벨리온의 NPU(신경망처리장치)가 투입된다. 또 국산 AI(인공지능) 반도체를 운영했을 때 실제 처리 성능·비용 절감 효과 등을 데이터로 검증할 지표 'K-Perf'도 처음으로 실험실을 벗어나 산업현장에 도입된다.

과학기술정보통신부는 지난 2일 경기 성남 리벨리온 본사에서 한국전력공사, 리벨리온, 한국정보통신기술협회(TTA)가 'K-Perf 활용 국산 AI반도체 기반 전력분야 AI 영상분석 기술협력 업무협약(MOU)'을 체결했다고 밝혔다.

이번 협약에 따라 한전은 기존 변전소 별로 분산 운영하던 AI 영상분석 인프라를 NPU 기반 통합 관제 시스템으로 전환해 시범 운영한다. 이를 통해 국산 AI반도체의 성능을 실제 운영 환경에서 확인한다는 게 이번 협약의 핵심이다.

단순히 칩 자체의 연산성능을 따지는데 그치지 않고 AI 영상분석 과정에서 처리 성능과 안정성, 비용 절감 효과 등을 종합적으로 따져 객관적 데이터로 산출한다.

한전이 전력 현장 시범운영과 활용모델을 개발하고, 리벨리온은 NPU 성능 최적화와 기술지원을 맡는다. TTA는 실제 전력 현장 운영환경을 반영해 성능과 신뢰성을 검증한다.

특히 지난해 마련된 'K-Perf'가 기업의 실제 국산 AI반도체 도입에 처음 적용된다. K-Perf는 수요기업이 국산 AI반도체의 성능을 객관적으로 비교하고 도입 여부를 판단할 수 있도록 하기 위해 마련한 지표다. 지난해 12월 15개 수요·공급기관이 참여해 실제 사용 환경을 중심으로 △측정 모델 △시험 조건 △첫 토큰 생성시간(TTFT)·긴 답변에 대한 속도 안정성(TPOT)·시간당 처리량(TPS) 등 세부 지표를 정했다.

과기정통부와 TTA, 정보통신기획평가원(IITP)은 지난 6월 국산 AI반도체 2종을 대상으로 AI 챗봇과 문서 검색 등 생성형 AI 서비스 환경에서 K-Perf 시범 검증을 진행했다. 이번에는 검증 대상을 전력 현장의 AI 영상분석으로 넓힌다.

이도규 과기정통부 정보통신정책실장은 "이번 협약은 수요기관과 공급기업이 하나의 기준으로 성능을 논의하는 체계가 현장에서 작동하기 시작했다는 의미"라며 "국가 전력망을 책임지는 한전이 변전소 AI 영상분석 실증에 K-Perf를 활용하는 만큼 다른 수요기관으로 확산되는 데 강력한 레퍼런스가 될 것"이라고 기대했다.

그동안 국산 NPU 업계의 글로벌 시장 확보의 최대 걸림돌 중 하나가 칩 성능 자체를 넘어 수요 기업에서 장기간 운용한 실제 사례를 확보하는 것이었던 만큼 이번 실증 결과는 국산 NPU의 글로벌 시장 공략을 위한 성과로 활용될 것이라는게 정부의 기대다.

[email protected] 이구순 기자