Mirascope LLM 개요 — 타입 안전한 프로바이더 무관 추상화
Mirascope LLM 개요
mirascope.llm 모듈은 LLM 기반 애플리케이션을 만들기 위한 Python 라이브러리예요. 타입 안전하고, 프로바이더 무관(provider-agnostic) 한 추상화를 제공해서, LLM 호출·도구 사용·구조화 출력을 쉽게 만들 수 있어요.
핵심 개념
| 개념 | 설명 |
|---|---|
| Messages | 메시지 타입과 멀티모달 콘텐츠 |
| Models | 프로바이더를 가로질러 LLM 설정·호출 |
| Responses | LLM 응답 다루기, 대화 이어가기 |
| Prompts | @llm.prompt로 재사용 가능한 프롬프트 함수 |
| Calls | @llm.call로 모델과 프롬프트 묶기 |
기능
| 기능 | 설명 |
|---|---|
| Thinking | 확장 추론 능력 사용 |
| Tools | LLM이 함수 호출하게 하기 |
| Structured Output | Pydantic 모델로 타입 있는 응답 |
| Streaming | 실시간 스트리밍 응답 |
| Async | 동시 호출을 위한 비동기 연산 |
고급 주제
Agents(자율 에이전트), Context(호출 컨텍스트·모델 해석), Chaining(다단계 워크플로우), Errors(예외·경계 처리), Reliability(재시도·검증), Providers(프로바이더별 설정), Local Models(로컬 모델), MCP(Model Context Protocol 통합)가 준비돼 있어요.
빠른 예제
from mirascope import llm
@llm.call("openai/gpt-4o-mini")
def recommend_book(genre: str) -> str:
return f"Recommend a {genre} book"
response = recommend_book("fantasy")
print(response.text())