배포했을 때 스트리밍이 안 될 때

배포했을 때 스트리밍이 안 될 때 (Streaming Not Working When Deployed)

로컬 개발 환경에서는 스트리밍이 잘 되는데, 배포한 앱에서는 스트리밍이 동작하지 않을 때의 해결 방법을 정리한 문서예요. "스트리밍이 아니라 잠시 후 전체 응답만 통째로 나온다"는 전형적인 증상이 있을 때, 응답 헤더를 눈여겨보시면 대부분 해결돼요.

출처: 문서

본문

문제 (Issue)

AI SDK로 스트리밍이 로컬 개발 환경에서는 잘 동작합니다. 하지만 배포했을 때는 배포된 앱에서 스트리밍이 동작하지 않습니다. 스트리밍이 되지 않고 잠시 후 전체 응답만 반환됩니다.

원인 (Cause)

이 문제의 원인은 다양하며 배포 환경에 따라 다릅니다.

해결 방법 (Solution)

다음과 같은 방법을 시도해볼 수 있습니다:

'Transfer-Encoding': 'chunked' 및/또는 Connection: 'keep-alive' 헤더를 추가하세요

return createUIMessageStreamResponse({
  stream: toUIMessageStream({ stream: result.stream }),
  headers: {
    'Transfer-Encoding': 'chunked',
    Connection: 'keep-alive',
  },
});

더 알아보기 (Learn more)

전체 사이트맵