Streaming: Warum Antworten Wort für Wort erscheinen

Claude Code, ChatGPT & Co. zeigen ihre Antwort meist Stück für Stück statt komplett auf einmal – Streaming ändert dabei nichts an Qualität oder Kosten.

Was Streaming ist

Ohne Streaming wartest du, bis das Modell die komplette Antwort fertig erzeugt hat, und siehst dann alles auf einmal. Mit Streaming schickt die API jedes erzeugte Wortstück (Token) sofort einzeln, sobald es fertig ist – du siehst die Antwort live entstehen, ähnlich wie beim Zusehen beim Tippen.

Warum Tools das machen

Streaming ändert nichts daran, wie schnell das Modell insgesamt fertig ist – die gefühlte Wartezeit sinkt trotzdem deutlich, weil du sofort erste Wörter siehst statt eine leere Fläche. Zusätzlich lässt sich eine Antwort frühzeitig abbrechen, wenn schon der Anfang erkennbar in die falsche Richtung geht, statt die komplette Generierung abzuwarten.

Die Technik dahinter

Der übliche Mechanismus dafür heißt Server-Sent Events (SSE) – eine einfache, etablierte Web-Technik, bei der der Server eine offene Verbindung nutzt, um fortlaufend kleine Datenhäppchen an den Client zu schicken. Sowohl Claudes als auch OpenAIs API bieten Streaming über SSE an, aktiviert über einen einfachen Parameter (stream: true) in der Anfrage.

Was Streaming NICHT ändert

Streaming beeinflusst weder die Qualität der Antwort noch ihre Gesamtkosten – abgerechnet wird weiterhin nach Anzahl der Token, unabhängig davon, ob sie einzeln oder gesammelt ankommen. Es ist reine Darstellungstechnik für eine bessere gefühlte Erfahrung, keine inhaltliche Veränderung.

BEISPIEL

curl -N https://api.anthropic.com/v1/messages \ -H "anthropic-version: 2023-06-01" \ -d '{"model":"claude-sonnet-5","stream":true,"max_tokens":100,"messages":[{"role":"user","content":"Zähl bis 5"}]}' # Ausgabe kommt als Folge von SSE-Events (event: content_block_delta, ...) statt als eine einzelne, komplette Antwort.

🛠️ ÜBUNG — MACH DAS BEI DIR

Rufe die Claude API einmal mit und einmal ohne Streaming auf und beobachte den Unterschied direkt im Terminal.

Schicke eine Anfrage mit stream: false und warte auf die komplette Antwort.
Schicke dieselbe Anfrage mit stream: true (z. B. per curl -N) und beobachte, wie die Antwort in Stücken ankommt.
Vergleiche die Gesamtdauer bis zum letzten Zeichen bei beiden Varianten.

✅ SELBST-CHECK

☐ War die gefühlte Wartezeit beim Streaming kürzer, obwohl die Gesamtdauer ähnlich war?
☐ Konntest du im gestreamten Rohformat einzelne SSE-Events (event: ...) erkennen?

KURZ-QUIZ

Was ändert Streaming an einer API-Antwort?