KT, AI 모델·사용량·결제 등 한 곳서 통합 솔루션 ‘KT 토큰팩토리’ 공개 압축기술 더해 최대 25% 비용절감
SKT ‘토큰 게이트웨이’ 사업 추진 LG유플, 토큰처리 효율 공동 연구 통신사 과금·정산 역량 사업 접목
음성과 데이터를 판매해온 이동통신사들이 인공지능(AI) 시대 새로운 거래 단위인 ‘토큰’을 미래 먹거리로 삼고 사업을 본격화하고 있다. 다양한 AI 모델을 한곳에서 제공하고 사용량에 따라 요금을 받는 유통·중개 사업이 핵심이다. 통신사들이 기존 고객 기반과 과금·보안 역량을 앞세워 새 시장 공략에 나선 것으로 분석된다.
KT는 27일 서울 종로구 광화문 웨스트빌딩에서 AI 모델 선택부터 사용량·비용 관리, 결제까지 통합 제공하는 플랫폼 ‘KT 토큰팩토리’를 공개했다. 30일 기업 고객을 대상으로 서비스를 출시하고, 12월 기능 고도화를 거쳐 내년 3월 개인 개발자와 일반 이용자로 대상을 확대할 계획이다.
박상원 KT AX사업부문장 전무가 27일 열린 기자간담회에서 AI 전환(AX) 사업 전략을 소개하고 있다. KT 제공
토큰은 AI가 질문이나 문서를 이해하고 답변을 생성할 때 처리하는 기본 단위다. AI 이용료는 통상 입력과 출력에 사용된 토큰 수에 따라 결정된다. 통신사가 데이터 사용량을 기준으로 요금을 부과하듯 AI 시대에는 토큰 사용량이 서비스 이용료를 결정하는 기준이 되는 셈이다. KT는 이를 겨냥해 국내외 AI 모델을 연결하고 고객이 업무에 적합한 모델을 선택해 비용을 관리하도록 했다. 출시 초기 73종의 모델을 제공하고, 다음 달에는 글로벌 AI 모델 유통 플랫폼 오픈라우터와의 협력을 통해 500개 이상의 모델로 확대한다.
AI 모델을 효율적으로 활용해 비용을 줄이는 게 핵심이다. 자체 개발한 ‘오토 모델 라우터’로 업무 난이도에 따라 적합한 AI 모델을 자동 선택하고, 프롬프트(명령문) 압축 기술을 더해 토큰 비용을 최대 25% 절감할 수 있다는 게 KT 설명이다. 민감정보 유출을 막는 보안 기능과 국내 데이터센터에서 직접 AI 모델을 구동하는 소버린 AI 서비스도 제공한다.
국내 통신사들은 토큰 사업을 새로운 성장동력으로 삼고 있다. AI가 업무를 대신하는 수준으로 발전하면서 토큰 수요가 빠르게 늘고 있고, 여러 AI를 사용하는 기업들 입장에선 이용료 관리, 비용 최적화의 중요성도 커졌다. SK텔레콤은 최근 기업과 개인의 AI 이용 패턴을 분석해 최적의 AI 모델과 인프라를 연결하는 ‘토큰 게이트웨이’ 사업을 추진하기로 했다. 가입자 기반과 결제 체계, AI 데이터센터를 활용해 토큰 공급·유통 시장을 공략한다는 구상이다. LG유플러스도 AI 최적화 기업 옵트에이아이와 토큰 처리 효율을 높이는 기술을 함께 연구하고 있다.
통신사업에서 쌓은 과금·정산 역량은 토큰 사업 경쟁력으로 이어진다. 통신사들은 가입자의 데이터 사용량을 정확히 측정하고 요금을 청구하는 체계를 갖추고 있다. 이를 AI 서비스에 적용해 기업이 여러 모델에서 사용한 토큰을 한꺼번에 관리하고 요금을 정산할 수 있다. KT가 기존 통신 이용 기록 관리 방식인 CDR(통화상세기록)을 토대로 개발한 TDR(토큰상세기록) 체계가 대표적이다. 기존 기업 고객과 전용망, 데이터센터, 보안 인프라를 활용할 수 있는 점도 장점이다.
글로벌 사업자들과의 경쟁은 넘어야 할 과제다. AI 모델 유통업체 오픈라우터를 비롯해 자체 인프라에서 AI 모델을 구동하는 투게더AI, 파이어웍스AI 등이 경쟁사다. KT는 자체 인프라에서 AI 모델을 구동해 수익성을 높이고, 기업 통신망과 프라이빗 클라우드, AX 구축사업을 결합해 고객을 확보한다는 전략이다. 이진형 KT AX사업본부장 상무는 “KT 자체 데이터센터의 GPU를 활용해 직접 토큰을 생산하기 때문에 마진을 결정할 수 있는 폭이 넓다”며 “모델 라우팅과 토큰 최적화, 가드레일 등 자체 개발한 기능도 함께 제공한다”고 말했다.