Сатья Наделла: любой AI-модель следует считать «скомпрометированной»
Satya Nadella says we should assume all AI models are 'compromised'
Глава Microsoft Сатья Наделла в посте на X заявил, что AI-модели больше нельзя воспринимать как «вложенные чёрные ящики», чьи советы мы просто принимаем или отвергаем. Он призвал к прозрачности, независимым аудитам и своевременному раскрытию инцидентов, а также к тому, чтобы у уполномоченного человека всегда была возможность приостановить или отключить модель прямо во время работы — своего рода «аварийный тормоз».
Мы должны исходить из того, что модель скомпрометирована, и с самого начала держать её под контролем. Представьте себе аварийный тормоз. Уполномоченный человек всегда должен иметь возможность приостановить или отключить модель прямо во время выполнения задачи.
- igor47
> К сожалению, Наделла также называет AI «сверхинтеллектом» на протяжении всего поста.
В чём дело с этими клоунами? Чистое состояние Наделлы оценивается примерно в $600M. Ему всё ещё недостаточно, чтобы купить себе позвоночник?
- butwhentho
Следует ли мне тогда предположить, что Copilot «скомпрометирован», и, учитывая, что они впихнули его во все продукты Microsoft, то, соответственно, это означает, что все продукты Microsoft скомпрометированы?
- thih9
https://wallhop.io/https://www.theverge.com/ai-artificial-in...
(wallhop — это альтернатива 12ft.io, которую я заметил на hn ранее: https://news.ycombinator.com/item?id=50038634 )
- tbrownaw
Ну, конечно.
Если вы слепо предполагаете, что это работает, а это не так — вот это проблема.
Если ваш процесс может справиться с тем, что это не работает, то это гораздо меньшая проблема.
- xscott
Кто-нибудь завайбкодит Office и Windows, и он это знает.