대화·프롬프트 · Streaming초보갱신일 2026. 9. 29.
스트리밍 응답
답이 완성되기 전에 토큰을 조금씩 보내 체감 속도를 높이는 방식입니다.
비유
편지를 다 쓴 뒤 보내는 게 아니라, 쓰는 대로 읽게 보여주는 것입니다.
이렇게 이해하세요
스트리밍은 TTFT를 줄여 UX를 개선합니다. 중간에 취소·수정 UX도 설계하세요. 실무에서는 정의만 외우지 말고 ‘언제 쓰고 언제 쓰지 말아야 하는지’를 함께 기억하세요. 불확실한 사실은 출처를 확인하고, 민감 정보는 마스킹한 뒤 도구에 넣으세요.
한 줄 암기
스트리밍 = 나오면서 보여 주기
좋은 예
채팅 UI에 스트리밍+중지 버튼을 둔다.
피하기
완본 JSON만 필요한 API에 억지 스트리밍한다.
관련 서비스
관련 용어
대화·프롬프트 더보기관련 링크
자주 묻는 질문
비용 차이?
보통 과금은 토큰 기준이라 큰 차이는 없을 수 있습니다.
오류는?
중간 끊김에 대한 재연결·부분 저장을 고려하세요.