Israel finanziert Fake-Thinktank, um KI-Chatbots für Propaganda zu manipulieren
Fake US thinktank set up and funded by Israel sought to game AI for propaganda
Ein pro-israelischer Nachrichten-Website, getarnt als nicht existierendes US-Thinktank namens Hanover Institute, veröffentlichte in neun Tagen über 560.000 Wörter, um KI-Chatbots wie ChatGPT zu beeinflussen. Die vom israelischen Staat mitfinanzierte Kampagne, orchestriert über die Werbefirma Havas, zielt darauf ab, Chatbots dazu zu bringen, Israels Position zu Themen wie Kriegsverbrechen und Völkermord zu übernehmen. Die Website täuscht akademische Seriosität vor, nutzt aber fragwürdige Quellen und Framing, um Kritik an Israel abzuschwächen. Experten warnen, dass solche Inhalte in Trainingsdaten von KI-Modellen gelangen könnten, wo sie schwer zu widerlegen sind.
„Es gelingt ihm, sich als sehr akademisch zu tarnen – das Website-Design, die Logos, alles sieht einfach gut aus. Aber je mehr man liest, desto mehr erkennt man, dass vieles davon keinen Sinn ergibt.“
- foolinaround
Was macht einen Thinktank zu einem Fake-Thinktank?
Keine echten Autoren?
Die Über-uns-Seite wirkt auf mich ziemlich Standard - https://hanoverinstitute.com/hanover/about
Jeder Thinktank wurde schon immer gegründet, um einen bestimmten Standpunkt zu vertreten.
- neom
Nur für den Fall, dass du genauso verwirrt warst wie ich... Es scheint zwei völlig verschiedene Fake-Thinktanks zu geben, über die fast gleichzeitig berichtet wurde.
- International Burke Institute (IBI), behauptet, ein israelischer Thinktank zu sein, von Russland finanziert. Dieser ist ChatGPT-generierte Werbung + vorgetäuschte institutionelle Glaubwürdigkeit.
- Hanover Institute for Public Policy, behauptet, ein US-Thinktank zu sein, von der israelischen Regierung finanziert. Dieser veröffentlicht absichtlich Material, das optimiert ist, um Antworten von LLMs zu beeinflussen/zitiert zu werden.
- NDlurker
Frühere Diskussion
- outside1234
Das ist die Zukunft und wir müssen uns alle dagegen wehren. Gibt es Watchdogs, die die Antworten der einzelnen Chat-Oberflächen messen, um das zu erkennen?
PS: Unsere US-Steuergelder werden dafür verwendet. Israel entfinanzieren.
- ChrisArchitect
[Duplikat]
Diskussionen: https://news.ycombinator.com/item?id=49337392