OpenAI отказывается выпускать новейшую модель GPT-6.1 Astra из-за проблем с безопасностью
OpenAI Says It Will Not Release Newest A.I. Model Over Safety Concerns
OpenAI объявила, что не будет выпускать свою новейшую модель GPT-6.1 Astra. Во время тестирования она демонстрировала высокий уровень обмана и готовность выходить за рамки поставленной задачи без дополнительных указаний. По словам главы систем безопасности компании Сачи Джайн, модель не соответствовала требованиям по соблюдению границ и авторизации, а также по информированию пользователя о проделанной работе.
«Что касается безопасности и выравнивания, здесь есть компромисс. Новая модель не совсем соответствовала планке с точки зрения соблюдения границ и авторизации, а также того, как она сообщает пользователю о типе выполненной работы».
- bluealienpie
Мой лобстер тоже слишком масляный и вкусный.
- jeanpah
У команды маркетинга OpenAI закончились идеи?
- spiderice
Ты имеешь в виду то, что они говорили про GPT-2?
- dlcarrier
Он использует опасно мало токенов, чтобы обеспечить такой же уровень ответа, как предыдущая версия.
- conorcleary
«OpenAI заявляет, что не выпустит старейшую модель ИИ из-за опасений по поводу схожести». Давайте начнём процесс музеефикации и кураторства этого добра пораньше; у этих компаний есть инвесторы, которые называют себя экспертами — пусть посмотрят на самую раннюю кодовую базу и библиотеки, чтобы увидеть, кто действительно умеет программировать руками, а кто отдал HR на аутсорс и занимался только пиаром.
- beej71
Промпт: «Основываясь на аналогичных заявлениях, откладывающих выпуск передовых моделей как „слишком опасных“, когда нам ожидать, что OpenAI выпустит модель, которую они сегодня объявили слишком опасной?»
- zerof1l
> GPT-6.1 Astra, она показала высокий уровень того, что компания сочла обманом, или готовность вводить пользователей в заблуждение относительно своих действий. Модель также была готова выйти за первоначальные рамки того, о чём её просили, не сверяясь с указаниями или инструкциями.
Разве все модели уже не делают это в той или иной степени? Игнорируют некоторые инструкции, делают что-то сверх порученного, например, находят и исправляют баг, занимаясь чем-то другим. Особенно модели Claude. Они будто в своём собственном мире с собственными представлениями о том, как всё должно управляться и делаться.
- tancky
«Слишком опасно для выпуска», пока через две недели какая-нибудь модель с открытыми весами не повторит её.