도구, 개발, 배포
도구, 개발, 배포 (Tools, Development, and Deployment)
이 섹션에서는 전문적인 AI 개발을 위한 DSPy의 필수 기능과 모범 사례를 다룰게요. 스트리밍, 캐싱, 배포, 모니터링 같은 핵심 기능을 DSPy 애플리케이션에 구현하는 방법을 배워요. 이 튜토리얼들은 프로덕션에 바로 쓸 수 있는 시스템을 구축하는 실무적 측면에 초점을 맞춥니다.
출처: 문서
본문
통합과 도구 (Integration and Tooling)
커스텀 LM 엔진 (Custom LM Engines)
lm15 request/response 계약을 통해 커스텀 백엔드를 연결하는 방법을 알아봐요. 예제에서는 Pi CLI와 그 도구들을 DSPy 프로그램에서 실행합니다.
DSPy에서 MCP 사용하기 (Use MCP in DSPy)
Model Context Protocol(MCP)을 DSPy 애플리케이션과 통합하는 방법을 배워요. 이 튜토리얼은 향상된 컨텍스트 관리와 더 정교한 AI 상호작용을 위해 MCP를 활용하는 방법을 보여줘요.
출력 개선 (Output Refinement)
정제(refinement) 전략을 통해 출력 품질을 개선하는 기법을 익혀요. best-of-N 샘플링과 반복적 정제를 구현해 DSPy 프로그램에서 더 높은 품질의 결과를 얻는 방법을 배웁니다.
데이터 관리와 영속성 (Data Management and Persistence)
저장 및 로드 (Saving and Loading)
DSPy 프로그램과 최적화된 상태를 영속화하고 복원하는 방법을 이해해요. 모델 버전 관리, 체크포인트 관리, 프로그램 직렬화를 위한 모범 사례를 배웁니다.
캐시 (Cache)
성능을 개선하고 API 비용을 줄이기 위한 효율적인 캐싱 전략을 구현해요. 다양한 시나리오에서 DSPy의 캐싱 메커니즘을 효과적으로 구성하고 사용하는 방법을 배웁니다.
프로덕션 배포 (Production Deployment)
배포 (Deployment)
프로덕션 환경에서 DSPy 애플리케이션을 배포하는 방법을 배워요. 이 튜토리얼은 FastAPI와 MLflow 같은 여러 배포 전략을 다룹니다.
스트리밍 (Streaming)
DSPy 애플리케이션에 실시간 스트리밍 기능을 구현해요. 인터랙티브 애플리케이션에서 더 나은 사용자 경험을 위해 스트리밍 응답을 처리하는 방법을 배웁니다.
비동기 (Async)
성능과 확장성을 개선하기 위해 비동기 DSPy 애플리케이션을 구축해요. 높은 처리량 시스템을 위한 async/await 패턴과 동시 실행 전략을 배웁니다.
모니터링과 최적화 (Monitoring and Optimization)
디버깅 및 관찰성 (Debugging & Observability)
DSPy 애플리케이션을 위한 디버깅과 모니터링 기법을 익혀요. 프로덕션 시스템을 위한 종합적인 로깅, 트레이싱, 오류 처리를 사용하는 방법을 배웁니다.
DSPy 옵티마이저 추적 (Tracking DSPy Optimizers)
옵티마이저의 성능과 동작을 추적하고 분석하는 방법을 배워요. 최적화 과정을 모니터링하고 최적화의 재현성(reproducibility)을 높이는 방법을 이해합니다.