‘5000만 인공지능(AI) 에이전트 플랫폼.’
국민 메신저 카카오톡과 AI 사업을 분리해 성장동력 확보에 나선 카카오의 핵심 전략은 ‘1인 1에이전트’다. 5000만 카카오톡 이용자의 관계와 맥락을 파악해 개인별 AI 비서를 제공하고, 이들이 카카오톡 안에서 예약과 구매 등 실제 행동까지 대신 수행하도록 한다는 구상이다. 카카오톡을 기반으로 AI 이용자가 늘어날수록 광고·커머스·구독 등으로 수익원을 넓힐 수 있는 구조다.
◆“조용한 카페 추천해드릴까요”
카카오의 구상이 현실화하려면 이용자가 AI의 편리함을 실제로 체감하게 하는 게 관건이다. 첫 시험대는 카인톡의 핵심 기능인 ‘선톡’이다. 이용자가 따로 요청하지 않아도 대화 중 약속이나 궁금증을 포착해 카나나가 먼저 말을 건다. 너무 적게 개입하면 AI의 존재감이 사라지고, 반대로 필요하지 않은 순간까지 끼어들면 스팸이나 감시처럼 느껴질 수 있다.
윤소원(26) 카나나서비스기획 책임은 “카인톡에서 가장 중요한 건 선톡의 정확도”라며 “거의 매일 ‘선톡 스크럼’을 열어 정확도가 얼마나 올라가는지 정량적으로 측정하고 데이터를 만들어 학습시키는 과정을 1년째 하고 있다”고 말했다.
카카오톡 대화는 AI가 이해하기 까다로운 데이터다. 문서처럼 정돈돼 있지 않고 오타와 줄임말, 농담과 진담, 앞뒤가 생략된 표현이 뒤섞인다. 민규식(37) AI 얼라이먼트 수석은 “모델이 가장 어려워하는 것은 불분명한 대화”라고 설명했다.
서비스 초기에는 직장 동료끼리 “내일 봬요”라고 말하면 이를 실제 일정으로 인식하기도 했다. 카카오는 단순 인사와 실제 약속을 뜻하는 표현의 유사 사례를 학습시켜 문제를 개선했다. 김다인(28) AI 얼라이먼트 책임은 “카카오톡 대화는 한국어의 형상을 한 다른 언어 같다”며 “장난을 실제 의도로 받아들일 수 있기 때문에 숨겨진 의미를 어떻게 파악할지 고민하고 있다”고 말했다.
카카오는 이런 오류를 줄이기 위해 자체 대화 시뮬레이터 ‘클론’을 활용한다. 실제 카카오톡 대화는 개인정보 문제로 AI 학습에 사용할 수 없는 만큼 대규모언어모델(LLM)로 실제 카톡과 유사한 가상대화를 생성한다. 모델이 특정 대화를 잘못 판단하면 비슷한 유형의 가상대화를 수백개 만들어 다시 학습시키는 방식이다. 민 수석은 “데이터를 많이 넣는 것보다 모델이 못하는 약점을 다양하게 포함하는 것이 중요하다”고 덧붙였다.
개발 속도도 빨라졌다. 사람이 직접 학습용 데이터를 만들던 초기에는 모델을 한 차례 업데이트하는 데 1∼2개월 가까이 걸렸지만 클론 도입 이후 1∼2주 수준으로 단축됐다. 민 수석은 “초기와 비교하면 거의 모든 지표에서 약 20%씩 성능이 향상됐다”고 말했다. 30일 카카오에 따르면 선톡과 답변에 피드백을 남긴 이용자 가운데 긍정적으로 평가한 비중은 각각 80%, 90%를 넘어섰다.
◆작은 AI를 똑똑하게
클론은 카카오가 택한 ‘온디바이스 AI’의 한계를 보완하는 역할도 한다. 카카오는 자체 개발한 경량 모델 ‘카나나 나노’를 스마트폰 안에서 구동해 카카오톡 대화 원문을 외부 서버로 보내지 않고 맥락을 분석한다.
민 수석은 “작은 모델일수록 성능이 낮을 수밖에 없지만 스마트폰에 탑재하고 보안을 지키기 위해서는 작은 모델을 써야 한다”며 “데이터를 잘 가공하고 학습해 작은 모델을 최대한 똑똑하게 만드는 중”이라고 말했다.
온디바이스 전략은 5000만명 규모로 AI 서비스를 확장하기 위한 비용 문제와도 연결된다. 카카오는 이용자 요청의 절반가량을 카나나 나노가 기기 안에서 처리하고 복잡한 요청만 서버 모델이나 전문 AI 에이전트로 넘기는 체계를 구축하기로 했다. 요청 난도에 따라 적절한 AI 모델을 골라 연결하는 ‘AI 컨덕터’도 개발하는 중이다. 이를 결합해 서버 추론비용을 최대 90% 줄일 수 있을 것으로 보고 있다. 이용자가 증가할수록 AI 추론비가 늘어나는 구조에서 벗어나겠다는 것이다.
◆말하지 않아도 안다
카카오가 목표를 달성하기까지는 갈 길이 멀다. 오픈AI와 구글, 앤트로픽 등 글로벌 빅테크(거대 기술기업)와의 경쟁이 불가피하다. AI 기업들은 검색과 일정관리, 쇼핑, 예약 등 여러 서비스를 하나의 AI 안에서 처리하는 에이전트 경쟁을 본격화하고 있다. 스마트폰 운영체제(OS)를 장악한 구글과 애플도 기기와 AI를 결합하면서 이용자의 일상에 깊숙이 들어오고 있다.
카카오는 국민 메신저라는 일상적 접점을 발판으로 맞선다는 전략이다. 김 책임은 “사용자가 굳이 챗GPT나 클로드를 열어 자기 일정을 등록하지는 않는다”며 “카인톡의 가장 큰 강점은 말을 하지 않아도 안다는 것”이라고 강조했다. 친구들과 카카오톡으로 여행 일정을 짜다가 특정 장소의 영업시간을 궁금해할 경우 별도 AI 앱을 열어 질문할 필요 없이 카나나가 대화 맥락을 읽고 관련 정보를 먼저 제시하는 식이다.
카카오는 연말까지 카인톡을 이용할 수 있는 이용자를 3100만명까지 확대할 방침이다. 카인톡을 비롯한 카카오톡 내 AI 서비스를 이용하는 월간활성이용자(MAU)는 1000만명을 넘어설 것으로 예상한다.
향후 카인톡은 개인화한 AI 비서로 고도화된다. 쇼핑 관련 선톡에 반응하지 않는 이용자에게는 관련 메시지를 줄이고, 주식이나 정보기술(IT) 뉴스처럼 특정 관심사가 반복적으로 나타나면 관련 정보를 묶어 알려주는 식이다.