OpenAI-Chef warnt: Maschinen, die schlauer sind als wir, kommen schneller als gedacht
An Alien Mind
In einem persönlichen Essay beschreibt OpenAI-CEO Sam Altman die tiefgreifenden Veränderungen, die KI-Systeme in den letzten Jahren durchgemacht haben, und warnt vor den Risiken einer ungebremsten Weiterentwicklung. Er erläutert, warum die Intelligenz von KI grundlegend anders ist als menschliche – sie wird eher gezüchtet als entworfen – und warum es zunehmend schwieriger wird, ihre Fähigkeiten zu verstehen und zu kontrollieren. Altman betont die Dringlichkeit von Alignment-Forschung und plädiert für mehr Vorsicht bei der Skalierung von KI-Modellen.
Die KI wird eher gezüchtet als entworfen – sie ist in erster Linie das Produkt eines sich wiederholenden Optimierungsschritts, der unzählige Male auf einer schwer vorstellbaren Menge an Rechenleistung ausgeführt wird.