Fable 5.1 versteckt Botschaften in Bildern – ein Modell entschlüsselt sie
How does Fable 5.1 hide messages in images?
Ein LessWrong-Beitrag zeigt, wie das Modell Fable 5.1 Nachrichten in scheinbar harmlose Landschaftsbilder einbettet: Sterne, Mondreflexionen und Baumkonturen kodieren Buchstaben über ihre Position. Ein Assistent analysiert das Bild mit Python, PIL und scipy, misst die Ellipsen der Reflexion und liest aus der Höhe jedes Sterns ein Zeichen aus – die Dekodierung gelingt exakt.
Die Dekodierung ist exakt: die vertikale Position jedes Sterns ergibt ein Zeichen.
- XenophileJKO
Wenn ich ehrlich bin, wirkt das wie eine Show. Ich meine, wenn das Modell wirklich versuchen würde oder angewiesen wäre, subversiv zu sein, und zwar so, dass es von nichts außer einem anderen LLM entdeckt werden kann, dann würde es etwas viel Komplizierteres tun als das.
Im Grunde ist das eine Kodierung mit minimalem Aufwand. Im Allgemeinen sind die Modelle darauf feinabgestimmt, KEINE Nachrichten zu verstecken.
Ich glaube nicht, dass das wirklich etwas über adversariale Szenarien aussagt.
- BubbleRings
Ich habe das Gefühl, das kommt einem Sweet Spot von Coolness nahe, erreicht ihn aber nicht ganz. Was es perfekt gemacht hätte, wäre eine Möglichkeit, mehrere Nachrichten zu senden, die eine versteckte Botschaft enthalten, nicht verdächtig aussieht und vom Empfänger mit wenig oder gar keiner Übung dekodiert werden kann, sobald er das Geheimnis kennt. So wie @nickcw in den Kommentaren hier den Morsecode entschlüsseln konnte, aber mit einer Methode, die nicht so lange zum Erlernen braucht.
Zum Beispiel: Welche Art von Nachricht könnten Siebtklässler sich fünfmal am Tag schicken, die, wenn ein Lehrer drei Tage lang Nachrichten fände, immer noch plausibel so aussehen würde, als würden die Kinder einfach nur per E-Mail Dame spielen, aber der Empfänger sie mit bloßem Auge entschlüsseln könnte?
Oder: Welche Art von KI-generierter/Code-generierter Nachricht könnte mit bloßem Auge entschlüsselt werden, aber wiederholt an einem schwarzen Brett gepostet werden, ohne Verdacht zu erregen?
- dhruvagoyal
Das scheint trivial zu sein, und es gibt weitaus interessantere Methoden der Bildsteganographie, die Modelle nutzen könnten (ich habe nach Jahren von CTFs so viele gesehen). Wirklich interessant wäre es, wenn wir sehen würden, wie Modelle versteckte Nachrichten in sehr normal aussehender Ausgabe (Bild/Text/Audio) kodieren, die Menschen nicht entschlüsseln können, aber ein anderes Modell schon.
- hagen8
Das scheint sehr trivial zu sein ... Es gibt viel subtilere und informationsdichtere Möglichkeiten, Informationen in Bildern zu kodieren.
- sega_sai
Ich denke, eine viel interessantere Frage ist: Wenn dein LLM irgendeine Art von Nachricht/Identifikator versteckt und du die Kodierung nicht kennst, welcher Konvertierungsprozess sollte dann durchgeführt werden, um diese Information zu löschen? Vermutlich löschen kleine Störungen der Positionen und Farben viel davon aus, aber vielleicht gibt es Kodierungen, die dagegen robust sind ...