기사입력 2026-11-16 06:00:00
기사수정 2026-11-15 19:52:06
작업 특성 따라 배분, 효율 높여
모델 운용 비용 최대 90% 절감
LG유플러스가 인공지능(AI) 모델 운영 비용을 최대 90% 줄이는 기술을 앞세워 내년 기업용 AI 시장에 진출한다. AI 모델을 작업 특성에 따라 배분하고 연산 효율을 높여 기업의 AI 도입·운영 부담을 낮추겠다는 전략이다.
LG유플러스는 지난 12일 ‘AI 토큰 최적화 스터디’를 열고 AI 비용 절감 기술과 사업화 계획을 발표했다고 15일 밝혔다. 토큰은 AI가 입출력할 때 쓰는 데이터 단위다. 회사는 AI 통화 에이전트 ‘익시오’와 AI 고객센터(AICC), 사내 업무 등에 적용해 온 기술을 기업 고객에게 제공하기로 했다. 업무를 대신 수행하는 AI 에이전트가 확산하면서 기업의 AI 운영 비용 부담이 커진 데 따른 것이다.
AI가 업무를 맡는 데 필요한 전체 비용을 줄이는 게 핵심이다. 복잡한 작업에는 고성능 AI 모델을 사용하고 단순한 작업은 상대적으로 저렴한 모델에 배분하는 ‘모델 라우팅’ 기술을 활용한다. 자체 검증 결과 일반 질문 처리 비용은 25% 이상, 코딩 에이전트 비용은 30% 이상 줄었다고 한다. 자체 AI 모델을 활용한 코딩 작업에서는 기존에 사용하던 모델보다 운영 비용을 약 90% 절감한 사례도 확인했다.
AI 모델 경량화와 추론 효율 개선도 추진하고 있다. 자체 온디바이스 AI 모델의 크기를 기존 2.4∼3GB(기가바이트)에서 800MB(메가바이트) 수준으로 줄이면서 비교 대상 클라우드 모델 대비 95% 이상의 성능을 확보했다.
AI 인프라 비용 절감을 위해 엔비디아·AMD의 그래픽처리장치(GPU)와 국산 신경망처리장치(NPU)를 함께 활용하는 방안도 검토하고 있다.