카카오, ‘말하는 AI’ 넘어 ‘판단하는 AI’ 공개…에이전트 실행 속도 높인다

텍스트·이미지 분석해 확률·선택·점수로 결과 제공
H200서 평균 0.04초 응답…오픈소스로 상업 활용도 허용

'Kanana-2-v-decide' 모델 성능 비교. /카카오

카카오가 문장을 생성하는 대신 인공지능(AI) 에이전트가 다음 행동을 빠르게 결정하도록 돕는 멀티모달 의사결정 모델을 공개했다. 텍스트와 이미지를 함께 분석한 뒤 확률·선택·점수 형태로 결과를 내놓아 고객 문의 분류나 도구 선택 등 반복적인 판단 업무에 활용할 수 있도록 했다.

6일 카카오에 따르면 자체 개발한 'Kanana-2-v-decide'를 글로벌 AI 플랫폼 허깅페이스에 오픈소스로 공개했다. 연구뿐 아니라 상업적 활용도 가능한 '카나나 오픈 라이선스'를 적용했다.

일반 대규모언어모델(LLM)이 질문에 자연어 문장으로 답하는 것과 달리 이 모델은 서비스가 바로 사용할 수 있는 정형화된 판단 결과를 제공한다. 긴 답변에서 결론을 다시 추출하는 과정을 줄여 AI 에이전트가 다음 작업으로 빠르게 넘어갈 수 있도록 한 것이 특징이다.

AI 에이전트는 사용자의 요청을 이해한 뒤 어떤 도구를 호출할지, 어느 정보를 활용할지, 이후 어떤 절차를 수행할지 연속적으로 판단해야 한다. 카카오는 이 과정에서 반복되는 선택을 별도 의사결정 모델에 맡기면 처리 속도와 효율성을 높일 수 있다고 설명했다.

Kanana-2-v-decide는 카카오의 멀티모달 언어모델 'Kanana-2-v-3b'를 기반으로 개발됐다. 텍스트와 이미지를 동시에 이해해 고객 문의 분류와 상품 이미지 판별, AI 에이전트의 도구 선택 등에 활용할 수 있다.

결과는 확률과 선택, 점수 등 세 가지 형태로 제공된다. 특정 조건이 맞을 가능성을 계산하거나 여러 후보 중 적합한 항목을 고르고, 평가 단계별 확률을 반영해 점수를 산출하는 방식이다.

가령 고객이 파손된 상품 사진과 교환 요청을 함께 보내면 이미지와 문장을 분석해 파손 여부와 문의 유형 등을 판단할 수 있다. 서비스 사업자는 이 결과를 내부 처리 기준과 연결해 상담원 연결이나 교환 절차 안내 등 다음 행동을 자동화할 수 있다.

속도도 강점으로 내세웠다. 카카오에 따르면 H200 그래픽처리장치(GPU) 1장 기준 평균 응답 시간은 0.04초 이내로, GPT-6 Luna보다 약 43배 빠른 것으로 나타났다.

자체 평가 데이터셋 'Kanana Decision Bench'와 공개 평가셋 'Decision Index'에서도 비교 대상 모델 가운데 가장 높은 성능을 기록했다고 회사는 설명했다. 비교 대상에는 마이크로소프트 'Decision-1'과 타입세이프 AI 'Jev', 퍼플렉시티 'pplx-decider-v1.1-27B', 업스테이지 'Solar Decide' 등이 포함됐다.

카카오는 우선 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 해당 모델을 적용해 실제 서비스 환경에서 성능을 개선할 계획이다. 향후 검색과 판단 기능을 하나의 모델로 결합하는 방향으로 기술 고도화도 추진한다.

최동진 카카오 어플라이드 AI 모델 성과리더는 "최신 AI 기술을 실제 서비스에 활용할 수 있는 기반을 넓힌다는 점에서 의미가 있다"며 "기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공하겠다"고 말했다.