Fireworks AI (LLM 추론·서빙)
Fireworks AI (LLM 추론·서빙)
Fireworks가 제공하는 오픈소스 LLM 추론(서빙) API를 다루는 카테고리예요. OpenAI 호환 채팅 완성 API를 비롯해 컴플리션 API, 도구 호출, 추론(reasoning) 모델, 프롬프트 캐싱 등 생성형 모델을 실제로 호출하고 최적화하는 방법을 정리해요.
이 카테고리의 문서
- 추론: 텍스트 모델 쿼리, 컴플리션 API, 추론 모델
- 도구·구조화: 도구 호출(함수 호출)
- 성능: 프롬프트 캐싱