Mistral MoE — MoE 구조를 선도한 Mistral 모델 패밀리

Mistral MoE

전문가 혼합(MoE) 구조를 실제 모델로 널리 알린 회사가 Mistral AI 예요. 특히 moe 로 대표되는 희소 전문가 구조로 효율성을 높인 모델 패밀리를 제공해요. 모델 개요와 퀵스타트를 아래에서 확인해 보세요.

출처: https://docs.mistral.ai/getting-started/models/models_overview/

더 알아보기

• Mistral 퀵스타트
• Sparse MoE 가이드