카카오, 개인화 AI 기반 ‘Kanana-2-embedding’ 2종 오픈소스 공개

30억·13억 파라미터 모델 공개…한국어 검색 성능 강화
의미 기반 검색·AI 에이전트 활용…상업적 이용도 가능

/카카오

카카오가 개인화 인공지능(AI) 에이전트와 의미 기반 검색에 활용할 수 있는 임베딩 모델 2종을 오픈소스로 공개했다. 자체 소형 언어모델을 기반으로 한국어 검색 성능과 운영 효율을 높인 것이 특징이다.

29일 카카오에 따르면 이번에 공개한 모델은 30억 파라미터 규모의 'Kanana-2-3b-embedding'과 13억 파라미터 규모의 'Kanana-2-1.3b-embedding'이다. 두 모델은 글로벌 AI 플랫폼 허깅페이스를 통해 공개됐다.

임베딩 모델은 텍스트의 의미를 수치 형태로 변환해 이용자의 질문과 관련된 정보를 찾는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성한다면 임베딩 모델은 질문과 정보 사이의 의미적 유사성을 분석해 필요한 정보를 찾아주는 역할을 한다.

이를 활용하면 이용자가 정확한 단어나 이름을 기억하지 못해도 의미가 비슷한 정보를 검색할 수 있다. 개인화 AI 에이전트가 과거 대화나 이용자의 정보를 찾아 현재 질문과 연결하는 데에도 활용할 수 있다.

카카오는 공개 모델 2종이 유사 규모의 공개 임베딩 모델인 'llama-nemotron-embed-1b-v2'와 'Qwen3-Embedding-4B'와 비교한 자체 평가에서 가장 높은 한국어 성능과 비슷한 수준의 영어 성능을 보였다고 설명했다. Qwen3-Embedding과 비교해서는 추론 효율이 높았다고 밝혔다.

기존 카나나 임베딩 모델 시리즈와 비교해서도 검색 성능을 개선하고 메모리 사용량과 추론 속도 측면에서 수십 배 이상의 효율 향상을 확인했다고 회사 측은 전했다.

카카오는 자체 소형 언어모델 'Kanana-2-SLM'의 언어 이해 능력을 정보 검색에 활용할 수 있도록 학습해 3B 모델을 개발했다. 이후 큰 모델이 학습한 정보를 작은 모델로 전달하는 지식 증류 기술을 적용해 1.3B 모델을 만들었다.

서비스 환경에 따라 검색 성능과 저장 공간, 처리 속도를 조절할 수 있는 MRL(Matryoshka Representation Learning) 기법도 적용했다. 개발자는 임베딩 벡터의 크기를 조절해 서비스 목적에 맞는 효율을 선택할 수 있다.

두 모델에는 연구·개발뿐 아니라 라이선스 조건에 따라 상업적으로도 활용할 수 있는 '카나나 오픈 라이선스'를 적용했다. 카카오는 국내외 연구자와 기업이 개인화 AI 에이전트와 의미 기반 검색 서비스 개발에 해당 모델을 활용할 수 있을 것으로 보고 있다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트가 이용자에게 필요한 도움을 제공하려면 질문에 답하는 능력과 함께 흩어진 정보에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 지원하고 관련 연구를 이어가겠다"고 말했다.