“에이닷엑스로 통화 요약 서비스 구축”

SKT, 챗 GPT 등 완전 대체
비용 절감… 고도화 작업 지속

SK텔레콤이 자체 개발한 인공지능(AI) 모델 ‘에이닷엑스(A.X)’만으로 ‘에이닷 전화’의 통화 요약 서비스를 구축했다고 19일 밝혔다. 이를 통해 해외 AI 기업에 지불하던 비용을 절감했다.

SK텔레콤은 AI 전화 기능 초기에는 에이닷엑스 모델과 오픈AI의 챗GPT, 앤트로픽의 클로드 등을 함께 사용했다. 김태윤 SK텔레콤 파운데이션 모델 담당(부사장)은 이날 “통화 요약 기능에서 자체 개발 모델인 에이닷엑스만 사용하는 방식을 1년에 걸쳐 추진했고, 이를 통해 에이닷 전화 통화 요약 서비스에서 성능 향상 효과를 얻었다”고 밝혔다. 김 담당은 또 “하루 사용 횟수가 3000만∼5000만건에 달하는 통화 요약 서비스에 자체 개발 AI 모델을 씀으로써 오픈AI 등 해외 AI 모델 개발사에 지불하던 API(애플리케이션 프로그래밍 인터페이스) 비용을 상당히 절감할 수 있었다”고 말했다.

SK텔레콤은 2018년 구글이 GPT 시리즈의 시초인 AI 모델 ‘버트’(BERT)를 공개하자 한국어 특화 AI 모델을 개발하기 시작했다. 이후 한국어 특화 거대언어모델(LLM)인 코버트(KoBERT), 코지피티-2(KoGPT-2) 등을 내놓았고 이를 고도화해 에이닷엑스를 선보였다. 에이닷엑스 개발에는 SK텔레콤이 보유한 슈퍼컴퓨터 타이탄을 활용했다. 타이탄은 엔비디아 그래픽처리장치(GPU) A100 1500장가량으로 이뤄졌다.

SK텔레콤은 에이닷엑스를 SK그룹 전반이 쓰는 기본 AI 모델로 고도화하고 있다.