AI21 플랫폼 개요 — Maestro와 Jamba

AI21 플랫폼 개요 — Maestro와 Jamba

AI21은 어떤 모델을 사고파는 단순한 API가 아니라, 기업에서 실제로 쓰기 좋게 정돈된 AI 시스템 묶음을 제공해요. 문서 기준으로 그 구조를 먼저 잡아볼게요.

출처: https://docs.ai21.com/docs/overview

AI21 Maestro

Maestro는 지식 에이전트를 빠르게 만들고 배포하는 데 특화된 시스템이에요. 미리 업로드한 파일을 기반으로 한 시맨틱 검색과 웹 검색을 결합해, 사용자가 세운 목표 안에서 실시간으로 검색→추론→검증→적응하며 답을 내립니다. 출력을 목표에 맞게 계속 검증하고 스스로 보정하는 자기 검증(self-validation)이 핵심이에요.

Jamba 패밀리 (오픈 모델)

Jamba 모델은 비슷한 크기의 선두 모델보다 최대 2.5배 빠른 추론을 낸다고 소개돼요. VPC·온프레미스 등 사설 배포가 가능하고, 이런 작업에 특화되어 있습니다.

  • 긴 문맥 RAG(Long-context RAG)
  • 근거 기반 QA(Grounded QA)
  • 데이터 분류(Data classification)

모델·솔루션 접근 방법

AI21 모델은 여러 경로로 접근할 수 있어요.

  • REST API: SDK·플레이그라운드·클라우드 플랫폼은 모두 내부적으로 공개 REST API(https://api.ai21.com/studio/v1)를 호출해요. API 레퍼런스는 Jamba 1.6 API Ref에서 확인할 수 있습니다.
  • Python / TypeScript SDK: 코드 완성 팁, 독스, 동기·비동기 호출을 지원하는 SDK로 모든 모델과 도구에 접근할 수 있어요.
  • 클라우드 플랫폼: 주요 클라우드 제공사에서도 모델을 제공합니다.

더 알아보기

  • https://docs.ai21.com/home — 문서 인덱스와 시작 가이드
  • https://docs.ai21.com/llms.txt — 전체 페이지 인덱스(머신 리더블)