Silicon Valley zweifelt an den düsteren Warnungen der eigenen KI-Insider
Dramatic insider warnings over AI fall flat with some in Silicon Valley
Nach dem überraschenden Rücktritt des Anthropic-Forschers Jacob Coxon, der KI als existenzielle Gefahr bezeichnet, reagieren viele Investoren und CEOs mit Skepsis. Sie wittern Marketing für die anstehenden Börsengänge von Anthropic und OpenAI – oder eine Strategie, um Regulierung und Wettbewerb auszuschalten. Nvidia-Chef Jensen Huang nennt die Warnungen schlicht „kompletten Unsinn“.
„Es ist unverantwortlich, dass wir als Verwalter des Geldes unserer Aktionäre auf ein Unternehmen setzen, das sich in seinen öffentlichen Aussagen so verhält.“
- roryirvine
Der CEO von Grindr, frisch davon, illegalerweise den HIV-Status von Nutzern mit Werbetreibenden geteilt zu haben, beschwert sich, dass ein Unternehmen, das Skrupel zeigt, "anti-zivilisatorisch" sei.
Erstaunlich.
- hackingonempty
Vielleicht können sie ihre brillante Super-KI nutzen, um einige echte und gegenwärtige Bedrohungen anzugehen, die ignoriert werden, wie nukleare Vernichtung, den Verlust des nach dem Zweiten Weltkrieg etablierten Verbots der Aneignung von Territorium durch Gewalt, die Gewissheit, dass der gesamte fossile Kohlenstoff aus dem Boden gegraben und in die Umwelt freigesetzt wird, das Wiederaufleben von Masern und eine schlechte Ausgangslage für die nächste Pandemie, ETC...
- dalemhurley
Ich stimme dem Gastgeber des All In Podcasts zu, oft tue ich das nicht. Hier geht es darum, einen Burggraben zu schaffen, mit dem Open-Source-Modelle nicht konkurrieren können: Regulierung.
Es stellt lediglich sicher, dass nur wenige Anbieter konkurrieren können.
Die Zukunft sind Edge- und Open-Source-Modelle.
Sowohl Apple als auch Google arbeiten darauf hin.
Cloud-KI wird zum Auslagern dienen, wenn das Edge nicht leistungsfähig genug ist.
In den meisten Fällen wird Edge ausreichen.
Weitere Inferenzkosten sinken weiter.
Vertikale Integration könnte die größte Herausforderung der KI-Branche sein. Der Versuch, Stromerzeugung, Training, Inferenz, Harness und Endnutzer für Unternehmen und Verbraucher zu managen, ist eine Menge beweglicher Teile.
- bananaflag
An alle, die glauben, dass dies eine böswillige Verschwörung von CEOs ist, um Regulierung herbeizuführen oder zu verbergen, dass sie an eine Wand gestoßen sind oder ihre Modelle leistungsfähiger erscheinen zu lassen oder was auch immer:
Die Argumente zum KI-Risiko sind philosophische Argumente, die 20-30 Jahre alt sind und nichts mit der aktuellen Unternehmenslandschaft zu tun haben. Sie wurden von Leuten erdacht, denen das Thema wirklich am Herzen liegt, und alle "Gotcha"-Argumente haben gut entwickelte Gegenargumente. Natürlich mögen sie in ihrer Ideologie feststecken, aber sie verdienen etwas mehr Anerkennung.
Ich bezweifle nicht, dass KI-CEOs von einer Krise profitieren können und dass sie nicht unbedingt unser Bestes im Sinn haben. Aber das ist die gleiche Art und Weise, wie Regierungen während COVID getestet haben, wie sehr sie die Freiheit einschränken können. Das bedeutet nicht, dass COVID nicht existiert oder dass Impfstoffe böse oder unwirksam sind oder was auch immer. Genauso hier: Wenn es einen Vorteil für CEOs gibt, Dinge zu regulieren, bedeutet das nicht, dass KIs uns nicht alle umbringen können und dass Regulierung uns mehr Zeit verschaffen könnte, Alignment zu lösen.
Außerdem: Ich akzeptiere, dass ich falsch liegen könnte und KI-Risiko ein Fake-Thema sein könnte und/oder Alignment unmöglich sein könnte, aber bitte bringt bessere Argumente, wenn ihr mich überzeugen wollt.
- hypendev
Also, als jemand, der täglich mit LLMs arbeitet und sogar sein eigenes trainiert hat, der die Vorteile dieser Technologie täglich genießt, soll ich:
- Auf jemanden hören, der gerade ein paar zehn/hundert Millionen beim Aufbau von KI in einem Frontier-Lab eingesammelt hat, dann beschlossen hat, es "existenzielle Krise für die Menschheit" zu nennen, und plötzlich bei einer Regulierungsbehörde arbeiten wird, die genau dafür geschaffen wurde
- Auf CEOs von Milliarden-Startups kurz vor dem IPO hören, die zu "einer Pause in der Entwicklung" und regulatorischer Vereinnahmung aufrufen, während sie die Frontier abdecken und dort weiter Wert abschöpfen, als wäre nichts passiert
- Auf "die Leute" hören, wie NGOs wie irreplaceable.org es offenbar versuchen zu sagen, die vorgeben, normale Alltagsmenschen zu sein, während die Organisationen von politischen Lobbyisten und Leuten geleitet werden, die beruflich politische Non-Profits betreiben
- Auf "die Doomer" hören, die größtenteils aus Leuten bestehen, die noch nie Code geschrieben haben oder nicht einmal tech-nah sind, und über Sci-Fi-Szenarien reden, als wären sie unsere aktuelle Realität, d.h. "KI repliziert sich über Server hinweg und baut bewaffnete Drohnen-/Biolabor-/Roboterfabriken, während niemand es bemerkt", als wäre es eine ernsthafte Bedrohung, die wir haben, ohne einen Gedanken an die wahnsinnige Abfolge von Ereignissen und Fehlern zu verschwenden, die nötig wäre, um dorthin zu gelangen, und die tatsächliche Möglichkeit, bei jedem Schritt bemerkt zu werden.
- Auf die Leute hören, die ihre Bücher, Substacks und Podcasts bewerben und über KI-Untergang reden, wo die Beteiligten größtenteils wieder keine Ingenieure sind und keine Ahnung haben, wie ein […]