(서울=연합뉴스) 오지은 기자 = 카카오[035720]는 19일 허깅페이스에 자체 개발한 언어모델 카나나-2를 오픈소스로 공개했다.
카카오는 카나나-1.5까지 오픈소스로 공개해온 바 있다.
카나나-2는 사용자 명령의 맥락을 파악하고 능동적으로 동작하는 동료와 같은 AI 구현에 초점을 맞췄다.
이번에 공개된 모델은 3종으로 기본 모델인 베이스, 사후 학습으로 지시 이행 능력을 높인 인스트럭트, 추론 특화 모델 등이다.
카나나-2는 도구 호출 기능이 카나나-1.5 대비 능력이 3배 이상 향상됐다.
지원 언어도 한국어, 영어에서 일본어, 중국어, 태국어, 베트남어까지 추가돼 6개를 제공한다.
카나나-2에는 긴 입력을 효율적으로 처리하는 방식인 MLA 기법이 적용됐고 추론 시 필요한 파라미터만 활성화하는 MoE 구조가 사용됐다.
built@yna.co.kr
