Nozzle gibt Textströme von LLMs sofort aus und puffert nur, wenn es sein muss

Nozzle: A streaming library that emits when possible and buffers where necessary

Nozzle gibt Textströme von LLMs sofort aus und puffert nur, wenn es sein muss

Nozzle ist eine kleine TypeScript-Bibliothek, die Textströme von LLMs verarbeitet. Sie puffert nur dort, wo es nötig ist, und gibt Chunks so früh wie möglich aus – etwa bei Regex-Matches, die erst bestätigt werden müssen. Die Bibliothek bietet über 40 Operatoren für Parsen, Aufteilen, Timing und mehr, unterstützt synchrone und asynchrone Iterables und lässt sich direkt mit dem Vercel AI SDK, OpenAI, Anthropic oder fetch kombinieren.

Nozzle puffert nur dort, wo es notwendig ist, und gibt ansonsten Chunks so früh wie möglich aus.

Mehr von diesem Tag

2026-11-18