메뉴 보기
스마트폰이나 노트북에 저장된 사용자의 취향과 과거 기록을 바탕으로 맞춤형 답변을 제공하는 인공지능(AI) 기술이 개발됐다.
기기 안에서 필요한 정보만 빠르게 찾아 활용해 개인화 성능을 높이면서 저장공간도 크게 줄인 것이 특징이다.
울산과학기술원(UNIST)은 컴퓨터공학과 공태식 교수팀이 온디바이스 검색증강생성(RAG) 기술인 ‘에픽(EPIC)’을 개발했다고 10일 밝혔다.
온디바이스 RAG는 챗GPT와 같은 언어모델이 사용자의 기기에 저장된 웹페이지나 이전 대화 내용 등을 직접 검색해 답변에 활용하는 기술이다. 언어모델이 미리 학습하지 못한 최신 정보나 사용자의 개인적인 기록까지 답변에 반영할 수 있어 보다 개인화된 결과를 제공할 수 있다.
다만 기존 온디바이스 RAG는 개인화된 정보를 기기 안에 많이 저장해야 해 메모리 공간을 많이 차지하고, 필요한 정보를 찾는 데도 시간이 걸리는 문제가 있었다.
연구팀은 에픽에 사용자에게 필요한 정보만 골라 저장하는 방식을 적용했다. 먼저 각 자료가 사용자의 취향과 얼마나 관련 있는지를 빠르게 계산해 관련성이 낮은 자료를 걸러낸 뒤, 남은 자료를 언어모델이 다시 확인해 실제 답변에 필요한 정보만 선별한다.
또 정보 자체뿐 아니라 해당 정보를 어떤 상황에서 활용할 수 있는지에 대한 사용 지침도 함께 저장한다. 이를 통해 사용자의 질문과 관련된 정보를 보다 정확하게 찾아낼 수 있도록 했다.
예를 들어 해산물 알레르기가 있는 사용자가 “제주도에서 먹을 음식을 추천해줘”라고 질문하면, 에픽은 질문과 사용자의 알레르기 정보를 연결해 해산물을 피해야 한다는 조건을 반영하고 관련 음식 정보를 찾아 답변 생성에 활용한다.
연구팀은 추천·토론·설명·대화 등 네 가지 상황을 다룬 벤치마크와 세 종류의 언어모델을 조합해 에픽의 성능을 검증했다.
그 결과 위키피디아에서 사용자 맞춤형 추천 정보를 찾는 PrefWiki 벤치마크에서는 검색용 저장공간이 기존 648.96MB에서 0.27MB로 약 2404분의 1 수준으로 줄었다.
네 개 벤치마크의 평균 검색 시간도 96.5밀리초(㎳)에서 3밀리초로 약 32배 단축됐다. 사용자 취향을 반영한 답변의 정확도는 기존 최고 성능 기술보다 평균 18.79%포인트 높았다.
실제 개인용 기기에서도 에픽이 작동하는지 검증한 결과, 검색용 메모리를 1MB 미만으로 유지하면서 질문 한 건당 5.21~29.35밀리초 만에 필요한 정보를 찾아냈다.
공태식 교수는 “개인화된 AI가 사용자 맞춤 답변을 내놓기 위해 정보를 기억하는 방식을 ‘많이 저장하는 것’에서 ‘사용자에게 가치 있는 것을 저장하는 것’으로 바꾼 연구”라며 “스마트폰과 노트북 같은 일상 기기에서 빠르게 작동하는 맞춤형 AI 개발에 기여할 것”이라고 말했다.
과학기술정보통신부와 정보통신기획평가원, 한국연구재단의 지원을 받은 이번 연구 결과는 지난 7월 서울에서 열린 인공지능 분야 국제학회 국제머신러닝학회(ICML)에서 공개됐다.
