Satya Nadella: Wir müssen davon ausgehen, dass alle AI-Modelle kompromittiert sind
Satya Nadella says we should assume all AI models are 'compromised'
Microsoft-CEO Satya Nadella fordert in einem ausführlichen Post auf X einen grundlegend anderen Umgang mit hochentwickelten AI-Modellen. Statt sie als verschachtelte Black Boxes zu behandeln, deren Ratschläge wir nur annehmen oder ablehnen können, sollen Modelle von Anfang an eingedämmt, beobachtet und mit fälschungssicheren, für Menschen lesbaren Belegen versehen werden. Seine Empfehlungen reichen von zeitnaher Offenlegung von Vorfällen über unabhängige Audits bis hin zu einer Art Notbremse, mit der autorisierte Personen ein Modell jederzeit mitten in einer Aufgabe stoppen können.
Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an eindämmen. Man kann es sich wie eine Notbremse vorstellen. Eine autorisierte Person sollte jederzeit in der Lage sein, ein Modell mitten in einer Aufgabe anzuhalten oder abzuschalten.
- igor47
> Leider bezeichnet Nadella KI im ganzen Beitrag auch als „Superintelligenz“.
Was ist mit diesen Clowns los? Nadellas geschätztes Nettovermögen liegt bei etwa 600 Mio. $. Reicht das immer noch nicht, um sich ein Rückgrat zu kaufen?
- butwhentho
Sollte ich dann annehmen, dass Copilot „kompromittiert“ ist, und da sie es in alle Microsoft-Produkte hineingequetscht haben, bedeutet das dann folglich, dass alle Microsoft-Produkte kompromittiert sind?
- thih9
https://wallhop.io/https://www.theverge.com/ai-artificial-in...
(wallhop ist eine Alternative zu 12ft.io, die ich vorhin auf hn gesehen habe: https://news.ycombinator.com/item?id=50038634 )
- tbrownaw
Na klar.
Wenn du blind davon ausgehst, dass es funktioniert, und es funktioniert nicht, ist das ein Problem.
Wenn dein Prozess damit umgehen kann, dass es nicht funktioniert, ist es ein viel kleineres Problem.
- xscott
Jemand wird Office und Windows vibe-coden, und er weiß es.