농협중앙회는 지난 15일 생성형 AI 기반 데이터 검색 환경에서 발생할 수 있는 오류를 최소화하기 위한 5개 기술의 특허를 출원했다고 23일 밝혔다.
AI가 잘못된 정보를 생성하거나 존재하지 않는 데이터를 참조하는 오류를 줄여 농축협의 데이터 활용과 업무 효율성을 높인다는 계획이다.
이번 특허는 사용자가 자연어로 질문하면 AI가 의도를 파악해 데이터를 조회하는 과정에서 발생할 수 있는 문제를 줄이는 데 초점을 맞췄다. 특허 기술은 ▲이중 검증을 통한 AI 환각 차단 ▲사용자 권한에 따른 되묻기 및 금융 규제 준수 ▲연속 질의 시 맥락 복원 ▲계층별 데이터 접근 제어 ▲계층형 데이터 집계 확장 등이다.
핵심 기술은 AI가 생성한 데이터 조회 명령을 실행하기 전에 두 차례 자동 검증하는 방식이다. 실제로 존재하지 않는 데이터 항목을 참조하는 오류를 사전에 걸러내 AI가 잘못된 정보를 사실처럼 제시하는 환각 현상을 줄일 수 있도록 했다.
사용자별 권한에 따라 추가 질문을 통해 조회 범위를 확인하고 금융 규제를 준수하도록 설계한 점도 특징이다. 여러 차례 질문이 이어지는 상황에서는 앞선 대화의 맥락을 복원해 질의가 끊기지 않도록 지원한다. 이와 함께 데이터 계층별 접근 권한을 제어하고, 계층형 데이터의 집계 범위를 확장할 수 있는 기술도 포함됐다.
관련 기술이 적용되면 사용자는 복잡한 데이터 구조나 조회 방식을 별도로 익히지 않아도 자연어 질문만으로 필요한 정보를 찾을 수 있다. 농축협 현장에서 데이터 접근성이 높아지고 반복적인 조회 업무가 줄어 업무 생산성 향상에도 도움이 될 것으로 농협중앙회는 기대하고 있다.
이영규 농협중앙회 IT전략본부 상무는 “생성형 AI를 단순히 활용하는 것을 넘어, AI가 정확한 정보를 참조할 수 있도록 통제하는 데 의미가 있다”며 “앞으로도 현장의 경험과 아이디어를 지속적으로 발전시켜 대외적으로 인정받을 수 있는 성과를 만들어 나가겠다”고 말했다.
농협중앙회는 이번 특허 기술을 2027년 8월 오픈 예정인 상호금융 차세대 시스템에 적용할 계획이다.