OpenRouter отключил трёх провайдеров и лишил 125 эндпоинтов статуса Zero Data Retention
Data Processing Incidents on Inference Providers

После отчёта исследователей Dragos о компрометации данных и нарушении политик у некоторых провайдеров инференса OpenRouter отключил три компании и убрал 125 эндпоинтов из списка Zero Data Retention, включая дополнительные меры предосторожности. Утечки затронули Novita, Phala и Together, сам OpenRouter не был взломан. Пострадавших клиентов уведомили, а возврат статуса ZDR теперь требует проверок и гарантий.
Провайдерам, которые хотят работать на OpenRouter, придётся соответствовать всё более высоким требованиям.
- mbgerring
Следует исходить из того, что ни один провайдер инференса не соблюдает никаких публичных обязательств по хранению данных. Следует исходить из того, что 100% того, что вы передаёте LLM по сети, записывается, сохраняется и используется как обучающие данные. Любая другая позиция — это непростительная наивность для любого, кто в IT-индустрии больше, скажем, 5 лет.
- usernomdeguerre
Ух ты, я полностью пропустил эту историю. Я всерьёз рассматривал переход на OpenRouter при следующем продлении внешнего AI из-за широты выбора и цен, но это абсолютно положило конец рассмотрению.
Из широты и разнообразия разоблачений ясно, что внутри OpenRouter нет должной проверки или ограничений в отношении того, кого они продвигают и как классифицируют своих провайдеров. Их ответ на это указывает на несколько первых шагов, но ни один из них, похоже, не имеет силы закона, и я ожидал большего от приобретения Stripe.
Очень рад, что моя повседневная модель — локальная, и я использую эти внешние сервисы лишь изредка.
- redrix
Приятно видеть этот шаг со стороны OR.
Тем не менее, лучшее соглашение о ZDR — то, которое ваша компания имеет напрямую с провайдером(ами) инференса. К сожалению:
- Не все достаточно крупные (или имеют достаточно денег) для этого.
- В конечном итоге вы оказываетесь в том же положении, когда приходится «доверять», что они соблюдают ZDR; даже после аудита их документации по безопасности.
- hasyimibhar
ZDR через AWS Bedrock всё ещё безопасен, верно? Насколько я знаю, Bedrock самостоятельно размещает все модели, которые предоставляет. Даже проприетарные весовые модели, такие как Claude, работают в сети AWS.
- leobg
Кстати, я всегда задавался вопросом о моделях принятия решений. Они такие дешёвые. Не могу отделаться от мысли, что провайдеры, должно быть, используют их как приманки для сбора данных:
Вы не найдёте реальных корпоративных документов в интернете, на которых можно было бы обучаться. И компании уж точно не загрузят их вам, чтобы вы улучшили свои модели, даже за вознаграждение. Но предложите модель с до смешного дешёвым входным ценообразованием и бесплатными выходами — и вы получите себе поток данных.
Думать, что «лаборатории» не будут на этом обучаться, — это как думать, что они никогда не обучались на книгах из теневых библиотек, потому что «ну, это незаконно». Они делали это тогда, и это дало им преимущество перед конкурентами. Так почему бы им не делать это сейчас?