OpenAI deckt russische Einflussoperation auf, die KI nutzt, um ein Fake-Institut aufzubauen
Disrupting a new covert influence campaign from Russia
OpenAI hat eine neue, bisher unbekannte russische Einflussoperation aufgedeckt und unterbunden. Die Betreiber nutzten ChatGPT, um Social-Media-Beiträge zu generieren, die für das angebliche International Burke Institute (IBI) warben. Das IBI präsentierte sich als israelische Expertengemeinschaft, veröffentlichte aber kopierte und falsch zugeordnete akademische Arbeiten sowie einen „Souveränitätsindex“, der Russland positiv darstellte. Die Operation zielte darauf ab, Russland zu loben und westliche Länder zu kritisieren, erreichte aber nur ein kleines Publikum. OpenAI betont, dass die ausgeklügelte Infrastruktur die Bedeutung der Operation ausmacht, auch wenn die unmittelbare Reichweite begrenzt war.
Die Bedeutung der Operation liegt weniger in der erreichten Zielgruppe als in der Infrastruktur, die sie aufgebaut hatte.
- trueno
Ich glaube, viele Leute unterschätzen, wie weit nicht nur Nationalstaaten, sondern auch Milliardärs-Entitäten zu gehen bereit sind, um eine bestimmte Erzählung zu kontrollieren, jetzt wo KI so zugänglich ist. IG-Kommentare, TikTok-Kommentare, Reddit-Kommentare, HN-Kommentare, bei scheinbar harmlosen und unverfänglichen Inhalten, einfach da draußen, um echt zu wirken und die Wahrnehmung zu manipulieren. Diese Entitäten sind sich sehr wohl bewusst, dass Leute zu den Kommentaren und Diskussionen gehen, um "den wahren Kern" zu erfahren, und ja. Marketing-Giganten bieten "Social-Media-Engagement"-Pakete für Entitäten wie Disney an, um Trailer-Hype zu pushen. Sie fluten YouTube und andere soziale Medien mit Fake-Engagement. Ich erinnere mich, dass innerhalb der ersten Minute, nachdem Disney den neuesten Tron-Trailer auf YouTube veröffentlicht hat, es absolut überflutet war mit Kommentaren wie "Ich bin nicht bereit" oder "Oh mein Gott" von scheinbar echten YouTube-Profilen.
Bringt LAN-Partys und AIM zurück und werft die aktuellen Plattformen in die Sonne.
- GolfPopper
>Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugute kommt.
Das kannst du deiner Großmutter erzählen. Das ist doch ein Witz.
- MomsAVoxell
Wir sollten alle verdeckten Einflusskampagnen verfolgen und identifizieren, von allen Staaten – nicht nur von Russland – und ein Register dieser Bemühungen erstellen, das der breiten Öffentlichkeit zugänglich gemacht wird.
Wir sollten auch alle verdeckten Einflusskampagnen unserer eigenen Regierung verfolgen und identifizieren, solange wir dabei sind.
Eigentlich sollte alle verdeckte Einflussnahme überall identifiziert und offengelegt werden.
Es ist die verdeckte Natur der Einflussnahme, die der heimtückischste Aspekt ist, unvereinbar mit einer freien und offenen Gesellschaft.
Also ja, lasst uns zu Hause anfangen, indem wir den nationalen Sicherheitsapparat demontieren, der es ermöglicht, verdeckte Einflussnahme gegen das Volk einzusetzen. Schließlich ist alles andere als volle Offenlegung Heuchelei.
Mehr Leaks jetzt!
Vielleicht wird es eine Anwendung von LLMs zur Identifizierung verdeckter Einflussnahme geben, die wir auf einen Korpus anwenden können, um die wahre Urheberschaft zu ermitteln. Das wäre für viele Dinge ziemlich nützlich, oder?
- tuesdaynight
Die Leute wären unangenehm berührt, wenn die Wahrheit darüber, wie viel Einfluss Nationalstaaten heutzutage auf den Online-Diskurs haben, wirklich aufgedeckt würde. Ich meine nicht nur Bots, sondern auch, wie viele politische Influencer von Gegnern aus dem gesamten Spektrum Geld erhalten, ohne dass sie überhaupt wissen, wer sie bezahlt. Die Amerikaner würden sich fühlen wie die Menschen in Lateinamerika, die es gewohnt sind, stark von externen Ländern beeinflusst zu werden.
- hackernud3s
Scheint es nicht seltsam, dass Russland mit Israel zusammenarbeitet, um Glaubwürdigkeit vorzutäuschen?