Streaming — 토큰이 만들어지는 대로 내려받기

Streaming

기본 API는 모델 출력 전체가 완성된 뒤 한 번에 응답을 줘요. 긴 출력은 그만큼 기다려야 하죠. Streaming(스트리밍) 은 서버가 토큰을 만들어내는 즉시 SSE(Server-Sent Events)로 조각조각 내려보내, 첫 토큰부터 화면에 바로 출력할 수 있게 해요. '체감 지연'을 크게 줄이는 핵심 기법이에요.

이 카테고리의 문서

• 개요: Anthropic Streaming — 스트리밍 응답의 이벤트 구조
• 핵심 기능: OpenAI Streaming — stream=true로 SSE 이벤트 받기
• 실전·API: Responses streaming events — 이벤트 타입 레퍼런스

출처: https://docs.anthropic.com/en/docs/build-with-claude/streaming