OpenAI подозревают в краже ещё одного крупного доказательства
OpenAI might have stolen another major proof
Математик Andreas Thom утверждает, что OpenAI могла обучить Astra на его переписке с Gábor Kun о гипотезе софичности Громова — одной из десяти задач, которые, по заявлению OpenAI, решила Astra. Thom — признанный эксперт по софическим и гиперлинейным группам, работающий над этой проблемой двадцать лет. Если обвинения подтвердятся, речь идёт не о споре об авторстве, а о присвоении неопубликованного человеческого труда.
AI не открывает новую математику. AI крадёт человеческие открытия.
- fwlr
Подозрительно, что OpenAI решила сгенерировать 300 миллиардов выходных токенов из модели, которая всё ещё обучается, сразу после того, как узнала о реальной вероятности того, что крупное математическое доказательство было в обучающих данных этой модели. Очевидно, для каждого шага есть разумные правдоподобные объяснения, но всё же это отчасти напоминает параллельное конструирование.
- jarofgreen
Оригинальные посты
https://mathstodon.xyz/@andreasthom/117240535270608201
- bamb008
Когда Том, математик, который сейчас заявляет о плагиате, опубликовал свой разбор [1] построения несофной группы в исполнении OpenAI, он не упоминает, что доказательство ему знакомо. Он даже называет ключевой аргумент остроумным, не отмечая, что сам придумал его первым.
- bambax
Все крупные AI-лаборатории были построены на краже интеллектуальной собственности; кто удивляется, что они до сих пор так работают? И кто верит или когда-либо верил их обещаниям, что ваши данные приватны и не логируются, и т.д.?
Крупные AI-лаборатории не пытаются продвигать человечество, они занимаются этим ради денег, и, как большинство (все?) частных компаний, их вообще не волнует этика.
Это не значит, что они не могут быть полезны или что их продукты — мусор, и т.д. Это лишь значит, что им никогда не следует доверять. Покупатель, будь осторожен.
- thaway7388
Это второй звонок для пробуждения.
Крупные AI-компании (да и вообще весь крупный IT-тех) занимаются бизнесом по сбору и обработке данных. Также известным как «разведка».
Их конечный «продукт» — это не просто отдельная ML-модель. Ваши данные им нужны не только для того, чтобы «улучшать свои продукты и услуги». Они строят целую экосистему и инфраструктуру вокруг сбора всех знаний в мире. Включая частные и секретные знания, традиционно собираемые разведывательными агентствами. Теперь то же самое могут делать агенты искусственного интеллекта.
Поскольку эти системы созданы для сбора данных, как пользователь вы не можете реалистично сказать «пожалуйста, не собирайте мои данные». Они могут дать вам ненадёжную кнопку в настройках, но реально гарантировать ничего не могут.
Допустим, я русский математик, работающий над важным доказательством. Или технически подкованный террорист, совершенствующий свои планы с помощью новейшего AI. Или AI-исследователь в китайской компании, работающий над конкурирующим продуктом. Есть ли хоть какой-то способ по-настоящему защитить свои разговоры?
Как они могут узнать, кто я и над чем работаю, не заглядывая в мои логи? А значит, должны быть некие агенты, проверяющие все разговоры всех пользователей и помечающие всё важное. Что также означает, что они хранят некую «память» о том, что видят.
Не напрямую используя мои данные для обучения публичных моделей, но используя мои приватные разговоры, чтобы «улучшать свои продукты и услуги».
Или, может быть, один из 10 000 лучших, чем Astra, специальных агентов, работающих над доказательством, отчаялся. Он нашёл живое подполье […]
- DavCreator
https://xxcancel.com/ValerioCapraro/status/20977918362699779...
- mlazos
Меня поражает, что компании/исследователи делятся важными данными с этими AI-лабораториями — по сути, вы отдаёте им свой секретный ингредиент, который они затем передают всем вашим конкурентам через обучение на разговорах. В то же время я не знаю реальных альтернатив, кроме чуть менее передовой локальной LLM. Не уверен, насколько они хороши в математике.
- Legend2440
Это очень слабое утверждение. Доказательство, которое они предлагают, — это просто «кто-то где-то говорит, что когда-то обсуждал тему с AI».
Они даже не утверждают, что у них было доказательство, только что они над ним работали.