dspy.streamify
dspy.streamify
DSPy 프로그램을 스트리밍 버전으로 바꿔주는 함수예요. 예측 결과가 완성되길 기다리는 대신, 생성 과정을 청크 단위로 흘려받을 수 있어요.
출처: 문서
본문
dspy.streamify는 프로그램 단위 스트리밍 API예요. predictor 필드를 고르고, 도구·모듈 상태 메시지를 내보내며, 최종 Prediction을 전달해요. 아래 레퍼런스는 소스 docstring에서 자동 생성돼요.
::: dspy.streamify
handler: python
options:
show_source: true
show_root_heading: true
heading_level: 2
docstring_style: google
show_root_full_path: true
show_object_full_path: false
separate_signature: false
inherited_members: true
더 알아보기 (Learn more)
- Streaming — 스트리밍 튜토리얼
- StreamListener — 스트리밍 리스너