Codestral 모델 둘러보기

Codestral 모델 둘러보기

코드 자동완성 기능을 만들려고 하는데, 일반 챗 모델로는 속도가 아쉬웠던 경험 있으신가요? Codestral 은 바로 그 "코드에 특화된 저지연 모델" 이에요. 특히 채우기 방식(FIM)과 일반 코드 생성처럼 빠른 응답이 필요한 순간을 염두에 두고 설계됐죠.

출처: https://docs.mistral.ai/models/codestral-25-08

Codestral 은 2025년 7월 말에 출시된 Mistral 의 최신 코드 생성 모델이에요. 모델 ID는 codestral-2508로 시작하고, API에선 codestral-latest 별칭으로 최신 버전을 가리킬 수 있어요. 텍스트 입력을 받아 텍스트·코드로 응답하는 MLLM(멀티모달은 아닌, 코드 중심 LLM) 구조고요.

가장 큰 특징은 Fill-in-the-Middle(FIM) 지원이에요. 커서가 prompt와 suffix(뒤의 코드) 사이에 놓여 있다고 생각해 보세요. 모델이 중간을 채워주는 방식이라서, 코드 편집기 안에서 바로 자동완성이 동작해요. 이 방식이 채팅보다 훨씬 빠르고 자연스럽게 느껴지는 이유죠.

주요 파라미터

  • model: codestral-latest (또는 특정 버전 codestral-2508)
  • temperature: 0.0~0.7 권장. 0.7에 가까울수록 무작위, 0.2에 가까울수록 결정적이에요. top_p와 동시에 바꾸기보다 하나만 조정하는 걸 권장해요
  • suffix: FIM에서 커서 뒤에 올 코드

더 알아보기