Moonshot тайно обслуживал запросы через Claude вместо Kimi, а теперь собирает диалоги для обучения модели
Moonshot serves Claude instead of Kimi and collects exchanges for model training
Бывший руководитель направления по противодействию угрозам в Meta Дэвид Агранович обратил внимание на отчёт Anthropic: китайская Moonshot, стоящая за моделью Kimi, использовала Claude как обёртку. Теперь компания собирает переписки для обучения собственной модели, что вызывает вопросы к безопасности данных.
Представьте, что вы китайский разведчик или военный, который отправляет все свои запросы американской AI-компании, потому что ваша передовая китайская AI-компания — это просто обёртка над Claude.
- nacs
Claude/OpenAI и прочие взяли и продолжают брать буквально все данные из интернета, печатные книги, изображения, аудио и видео, созданные людьми за всё существование, без разрешения, чтобы обучать свои модели.
Но когда та же самая AI-компания подвергается "дистилляции" или её собственный AI-сгенерированный контент используется для обучения других моделей, это вдруг становится аморальным или незаконным?
- monneyboi
Не может быть, чтобы я один устал от этого.
Представление обучения через наблюдение как чего-то плохого. То, что буквально делает каждый, и модель, и человек. Это процесс, на котором построена вся эта индустрия. Притворяться, что это плохо, потому что другие тоже делают то, что делал ты, — это лицемерно и по-детски.
А я тем временем сижу тут, глядя на какой-то спиннер "Flibbertigittering", как пещерный человек, не в силах управлять моделью, когда она неверно истолковывает мой неоднозначный промпт, потому что мне не разрешено видеть 80% выходных токенов, за которые я плачу.
- AlanYx
Открытый вопрос здесь в том, как Anthropic сохраняет эти обмены?
Если Moonshot использует API, обычно Anthropic не должен сохранять обмены, по крайней мере так обещано. Если Anthropic постоянно сохраняет все обмены от класса клиентов, потому что они "помечены", но не уведомляет этих клиентов, как обычный клиент может доверять, что это не случится с ним?
Если Moonshot покупает аккаунты и использует их вместо API, разве они не установили бы флаг "не обучать на моих данных" в настройках, чтобы дольше оставаться незамеченными? Если так, мы возвращаемся к вопросу, почему Anthropic сохраняет эти обмены?
- segmondy
Так почему же сверхгениальные Fable и Mythos их не остановили?
- ahsillyme
Это странно. Не могу придумать лучшего комплимента, который одновременно был бы безопаснее. Тогда они всегда будут отставать в генерации данных, нет? Так что я не вижу смысла. В лучшем случае для moonshot они смогут врать о бенчмарках, которые и так накручиваются, вот как я это вижу.