Nozzle: библиотека для потоковой передачи текста, которая отдаёт данные сразу, а буферизует только при необходимости

Nozzle: A streaming library that emits when possible and buffers where necessary

Nozzle: библиотека для потоковой передачи текста, которая отдаёт данные сразу, а буферизует только при необходимости

Nozzle — это небольшая TypeScript-библиотека для обработки текста, поступающего от LLM. Её функции буферизуют только там, где это действительно нужно, а в остальных случаях выдают чанки как можно раньше. Например, регулярные выражения придерживают потенциальное совпадение лишь до подтверждения или отклонения, а всё вокруг него отправляют немедленно. Библиотека поддерживает синхронные и асинхронные итераторы, совместима с Vercel AI SDK, OpenAI, Anthropic и fetch, а также предлагает богатый набор преобразований: разбиение, фильтрацию, накопление, управление таймингом и многое другое.

Некоторые шаблоны заставляют nozzle буферизовать текст дольше, чем вы могли бы ожидать: открытые квантификаторы в конце шаблона, такие как /hello.+/g, буферизуют всё после "hello" до конца потока — .+ всегда может совпасть с большим объёмом. Вместо этого используйте разделитель: /hello[^!]+/g совпадает до !, что позволяет выдавать данные раньше.

Ещё за этот день

2026-11-18