카카오, '카나나'로 GPT-4o 잡는다! 멀티모달 언어 모델과 MoE 모델 전격 공개

카카오, 자체 언어 모델 '카나나' 1.5 버전 공개

카카오가 이미지 정보 이해 능력을 갖춘 경량 멀티모달 언어모델 '카나나(Kanana)-1.5-v-3b'와 MoE(Mixture of Experts) 언어모델 '카나나-1.5-15.7b-a3b'를 오픈소스로 허깅페이스에 공개했습니다. 지난 5월 공개한 언어모델 카나나-1.5 4종에 이어 두 달 만에 추가 모델을 공개하며 독자 기술 경쟁력을 과시했습니다. 이번 공개는 카카오의 기술력을 널리 알리는 중요한 계기가 될 것입니다.

 

 

 

 

멀티모달 언어모델 '카나나-1.5-v-3b'의 특징

'카나나-1.5-v-3b'는 텍스트뿐 아니라 이미지 정보도 처리할 수 있는 멀티모달 언어모델로, '카나나 1.5' 모델을 기반으로 합니다. 모델 개발의 전 과정을 카카오의 자체 기술로 구축하는 '프롬 스크래치' 방식으로 개발되었습니다. 이 모델은 질문 의도를 정확히 이해하는 성능과 한국어·영어 이미지 이해 능력을 갖춘 것이 특징입니다. 특히, 경량 모델임에도 불구하고 글로벌 멀티모달 언어모델 'GPT-4o'와 견줄 수 있을 정도의 성능을 보여줍니다.

 

 

 

 

뛰어난 이미지 이해 능력

예를 들어, 장소 사진과 함께 "이 사진이 촬영된 장소에 대해 간단히 설명해줘"라고 질문하면 "이 사진은 서울 청계천을 배경으로 하고 있습니다"와 같이 국내 지역에 대한 인식력을 바탕으로 답변을 제공할 수 있습니다. 이는 카카오가 이미지 이해 능력에 얼마나 많은 노력을 기울였는지 보여주는 대목입니다. 카카오의 기술력은 사용자들이 더욱 풍부하고 정확한 정보를 얻을 수 있도록 돕습니다.

 

 

 

 

MoE 언어모델의 오픈소스 공개

카카오는 일반적인 MoE 구조의 언어모델도 오픈소스로 공개했습니다. MoE는 입력 데이터를 처리할 때 모든 파라미터가 연산에 참여하는 기존 모델과 다르게 특정 작업에 최적화된 일부 전문가 모델만 활성화하는 방식입니다. 이는 효율적인 컴퓨팅 자원 활용과 비용 절감에 큰 강점을 가지고 있습니다. 이번 공개를 통해 카카오는 기술 혁신뿐만 아니라, 자원 효율성까지 고려하는 모습을 보여주었습니다.

 

 

 

 

성능과 비용 효율성의 두 마리 토끼

카카오 관계자는 "한국어 벤치마크에서 유사 사이즈의 국내외 공개 모델과 비교한 결과 최고 점수를 기록했고, 다양한 영어 벤치마크에서 해외 오픈소스 공개모델과 비교했을 때도 유사한 수준의 성능을 보였다"고 밝혔습니다. 또한 "지시 이행 능력 벤치마크는 국내 공개된 유사 규모 멀티모달 언어모델 대비 128% 수준의 성능을 기록했다"고 덧붙였습니다. 이는 카카오가 얼마나 뛰어난 기술력을 가지고 있는지, 그리고 얼마나 많은 노력을 기울였는지 보여주는 증거입니다.

 

 

 

 

기술 개발의 의미와 미래

김병학 카카오 카나나 성과리더는 "이번 오픈소스 공개는 비용 효율성과 성능이라는 유의미한 기술 개발의 성과를 거둔 것"이라며, "단순한 모델 아키텍처의 진보를 넘어 서비스 적용과 기술 자립이라는 두 가지 측면의 목표에 부합하는 결과물"이라고 말했습니다. 카카오의 이번 행보는 기술 자립과 서비스 혁신을 동시에 달성하려는 의지를 보여줍니다. 앞으로 카카오가 보여줄 기술 발전에 많은 기대가 모아지고 있습니다.

 

 

 

 

핵심만 콕! 카카오의 야심작 '카나나' 공개

카카오가 멀티모달 언어 모델 '카나나'를 오픈소스로 공개하며 기술 경쟁력 강화에 나섰습니다. GPT-4o와 견줄 만한 성능과 MoE 모델 공개로, 비용 효율성과 성능을 모두 잡는 데 성공했습니다. 카카오의 혁신적인 기술 개발은 앞으로의 서비스 발전과 기술 자립에 큰 기여를 할 것으로 기대됩니다.

 

 

 

 

자주 묻는 질문과 답변

Q.카나나 모델은 어떤 특징을 가지고 있나요?

A.카나나 모델은 텍스트와 이미지 정보를 모두 처리할 수 있는 멀티모달 언어 모델입니다. 특히, 'GPT-4o'와 견줄 만한 이미지 이해 능력을 갖춘 것이 특징입니다.

 

Q.MoE 모델은 무엇인가요?

A.MoE(Mixture of Experts) 모델은 특정 작업에 최적화된 전문가 모델만 활성화하는 방식으로, 컴퓨팅 자원 활용과 비용 절감에 효과적입니다.

 

Q.카카오가 오픈소스를 공개한 이유는 무엇인가요?

A.카카오는 기술 경쟁력을 강화하고, 더 많은 개발자들이 참여하여 기술 발전을 이끌어내기 위해 오픈소스를 공개했습니다.