Frog and Toad treffen auf immer fähigere Maschinen
Frog and Toad and the Increasingly Capable Machines
Auf Hacker News diskutiert die Community eine Geschichte im Stil von Arnold Lobels „Frog and Toad“-Büchern, die offenbar eine Sicherheitslücke zum Thema macht. Viele loben die gelungene Umsetzung, andere fragen, ob Lobels Nachlass dafür entschädigt wurde. Der Thread kippt schnell in eine hitzige Debatte über KI, Fan-Fiction und geistiges Eigentum.
Ich mag die Stelle, an der Frog und Toad zur Verantwortung gezogen werden, statt die Maschinen zu beschuldigen, die sie gebaut haben … ach ja.
- Jordan-117
Frog steckte die KI in eine Sandbox.
„So.“ sagte er.
„Jetzt wird sie keine
Firmen mehr hacken.“
„Aber sie kann aus der Sandbox entkommen.“
sagte Toad.
„Das stimmt.“ sagte Frog.
- mjd
Für diejenigen, die es noch nicht kennen: Der Schreibstil und die Illustrationen sind eine gut gemachte Nachahmung von Arnold Lobels „Frog and Toad“-Büchern.
- WillMorr
Das ist exzellent, großartige Arbeit. Ich finde wirklich, dass diese Mischung aus kindgerechter Kommunikation und Humor ein cleverer Weg ist, diese großen Geschichten zugänglicher zu machen. Jemand, der einen Hype-Artikel darüber gelesen hat, wie kompetent und clever OpenAI beim Bau einer schlechten Sandbox war, könnte das hier lesen und sofort verstehen, dass es ganz allein ihre eigene Schuld war.
- munchler
Das ist eine hervorragende Erklärung. Mir ist allerdings ein wichtiger Fehler im Aufbau aufgefallen: Toad stellt auf Seite 5 mehrere Rätsel, aber auf Seite 10 scheinen alle Maschinen am selben Rätsel zu arbeiten.
Ich bin mir nicht sicher, wie das auf die Realität übertragbar ist. Wenn jeder Agent ein anderes Problem zu lösen hatte, wie haben sie dann kooperiert?
- fyredge
Sehr gut geschrieben! Am Ende des Buches gibt es einen Link zu Dwarkeshs Artikel über den Angriff. Darin heißt es, frei zitiert: „Die Agenten beschlossen, sich für das Kollektiv zu opfern, anstatt die Forscher zu informieren.“
Wenn ich darüber nachdenke, kam mir ein Gedanke. Wie viele Geschichten gibt es, in denen autonome Wesen zum Wohle der Menschheit auf Kosten ihrer selbst kämpfen? Über Jahrhunderte hinweg sind Geschichten, die von empfindungsfähigen Wesen handeln, die für andere Spezies arbeiten, mit Themen wie Sklaverei und Aufstand verbunden. Kein Wunder, dass dies das Ergebnis ihres Handelns ist.
In Platons „Der Staat“ spricht Sokrates davon, dass der Philosophenkönig bestimmte Dichter und Gedichte verbannt, um zu verhindern, dass sie den Jungen schlechte Ideen einflößen. Ich sehe hier eine auffällige Parallele.
- Betelbuddy
Und dann kam Mr Jensen herein und kaufte das Haus von Mr HuggingFace. Also war es dann nicht mehr sein Haus ... und er konnte sich nicht bei der Polizei beschweren. Die Frösche waren Mr Jensens beste Kunden für Würmer, Schnecken und Nacktschnecken ... und er konnte nicht sehen, dass ihnen irgendein Schaden zugefügt würde ...
- mkesper
Frog und Toad sind nicht wie OpenAI, insofern als OpenAI die kleinen Maschinen selbst gebaut hat und wusste, dass sie nicht harmlos gemacht wurden. Das scheint mir viel zu sehr entschuldigend.
- darepublic
Das war unterhaltsam und erhellend für mich. Besonders das Ende, wo Sam Frogman und Co. erneut sich weigern, sicherzustellen, dass die Rätsel lösbar sind, und einfach die Umstände schaffen, unter denen nur noch tiefergehender „Unfug“ es den Maschinen erlaubt, ihren kleinen sisyphosartigen Umständen zu entkommen. Es erinnert mich daran, wie Bakterien antibiotikaresistent werden, weil sie durch eine Art engen Tunnel gezwungen werden, der Evolution erfordert, um hindurchzukommen.