Iranische Kampagne schmuggelte mit ChatGPT gefälschte Artikel in echte US-Medien
Iranian campaign planted fake articles in real U.S. publications using ChatGPT
OpenAI zufolge wurden rund 100 KI-generierte Artikel in mindestens 20 US-Nachrichtenmedien platziert – darunter die kleine Florida-Wochenzeitung Port St. Joe Star, aber auch Daily Kos und Middle East Monitor. Die Texte erschienen unter dem erfundenen Autorennamen Ervin Hoskins und warnten vor den Kosten des Iran-Kriegs für Amerika. Die Kampagne zeigt, wie leicht sich mit ChatGPT erzeugte Propaganda in etablierten Publikationen unterbringen lässt.
„Das Gesetz wird die Amerikaner über die Kämpfe hinaus verfolgen“, warnte ein Meinungsbeitrag im Port St. Joe Star, einer winzigen Wochenzeitung in Florida, letzten Monat vor dem Iran-Krieg.
- chvid
"Aber der ChatGPT-Hersteller OpenAI sagte am Donnerstag, dass Hoskins' angebliche Arbeit von Nutzern mit Sitz im Iran mithilfe seines Chatbots als Teil einer "Einflusskampagne" generiert wurde."
Sockenpuppen-Accounts und gefälschte Meinungsbeiträge sind nichts Neues.
Das Neue ist ein superzentralisiertes "Tool", das nicht nur das Schreiben für dich übernimmt, sondern alles protokolliert, bewertet und nach eigenem Ermessen an Behörden und Nachrichtenmedien meldet.
- OgsyedIE
Angesichts der Vielzahl an Self-Hosting-Optionen gibt es keinen Grund anzunehmen, dass nicht jede Regierung auf der Erde das in irgendeinem Umfang tut.
Vielleicht ist das eigentliche Problem die zu große Akzeptanz von schlampiger Verifizierung.
- xbar
Mir fällt ein Medienhaus ein, für das dies eine Verbesserung seiner Genauigkeit wäre.
- thih9
Endlich ein Artikel, der nicht sagt "ChatGPT hat etwas getan", sondern die Betreiber in den Fokus rückt.
Könnten wir diese Formulierung für andere Nachrichten beibehalten? Wenn nicht, könnten wir dann hier aus Konsistenzgründen sagen, dass ChatGPT gefälschte Artikel platziert hat?
- card_zero
Anscheinend bin ich ungebildet, was die Funktionsweise des Journalismus angeht: Man kann einfach einen poliert wirkenden Meinungsbeitrag schreiben und ihn obskuren Publikationen zuschicken, die ihn an Nachrichtenseiten und Zeitungen weitergeben? Bekommt man dafür Geld? Oder ist es normal, wenn man ihn kostenlos anbietet, und nicht verdächtig?
- delichon
Ich bevorzuge ein LLM, das jedes Argument steelmanen kann. Insgesamt halte ich es für effektiver, sich mit dem Bösen auseinanderzusetzen, als es zu ignorieren. Für diesen Zweck sind diese platzierten Artikel ein Feature. Das sage ich als Feind der Regierung des Iran.
- BeetleB
Ich bin sicher, dass es dazu viele unterschiedliche (berechtigte) Meinungen gibt.
Ich kann nur sagen, dass dies den Bedarf an Open-Weights-Modellen unterstreicht.
> OpenAI sagte, es habe die Konten hinter der Kampagne gesperrt
Wenn wir wüssten, dass OpenAI solche Aktivitäten immer sperren würde, unabhängig vom Akteur, wäre ich zufrieden. Das weiß ich nicht.
- tastyfreeze
Alle Nachrichten sind seit sehr langer Zeit ein Werkzeug von Spooks. Die offizielle CIA-Operation Mockingbird begann in den späten 40ern. Jetzt, wo KI beteiligt ist, sind es Nachrichten? Nichts davon ist vertrauenswürdig.