Ein Anthropic-Forscher kündigt – und verzichtet auf Millionen, um zu warnen
Good people refuse to do bad things
Jacob Coxon, 27, verließ Anthropic zwei Monate vor dem Vesting seiner Equity, um öffentlich zu warnen: Beide großen AI-Labore rasten auf selbstverbessernde Superintelligenz zu und setzen damit Menschenleben aufs Spiel. Sein Tweet erreichte über 115 Millionen Aufrufe. Der Artikel vergleicht ihn mit Frances Haugen und argumentiert, das eigentliche Problem sei eine Tech-Kultur, die Produktivität über Verantwortung stellt – und dass gute Menschen sich weigern, Böses zu tun.
Wenn die Menschen innerhalb der Maschine sagen, dass diese gefährlich ist, dann ist der Lärm eher ein Symptom als schlechte Publicity.