Moonshot AI serviert Claude statt Kimi – und sammelt Prompts fürs Modelltraining
Moonshot serves Claude instead of Kimi and collects exchanges for model training
David Agranovich, ehemaliger Leiter der Bedrohungsabwehr bei Meta, kommentiert den Anthropic-Bericht: Moonshots Kimi habe heimlich Claude als Wrapper genutzt, sodass chinesische Geheim- und Militärakteure ihre Prompts an ein US-Unternehmen schickten. Der Bericht zeigt, wie Agenten Aufklärung, Exploitation und Exfiltration automatisieren und wie gestohlene API-Schlüssel zum Hauptziel werden. Agranovich lobt Anthropics Transparenz, warnt aber vor übertriebenen Impact-Zahlen und fordert gemeinsame Bedrohungsindikatoren.
Stellen Sie sich vor, Sie sind ein chinesischer Geheim- oder Militärakteur und schicken alle Ihre Prompts an ein amerikanisches KI-Unternehmen, weil Ihr führendes chinesisches KI-Unternehmen nur ein Claude-Wrapper ist.
- nacs
Claude/OpenAI usw. haben buchstäblich alle Daten aus dem Internet, gedruckte Bücher, Bilder, Audio- und Videoinhalte, die Menschen in der gesamten Existenz geschaffen haben, ohne Erlaubnis genommen und nehmen sie weiterhin, um ihre Modelle zu trainieren.
Aber wenn dasselbe KI-Unternehmen "distilliert" wird oder seine eigenen KI-generierten Inhalte zum Trainieren anderer Modelle verwendet werden, ist es plötzlich unmoralisch oder illegal?
- monneyboi
Ich kann nicht der Einzige sein, der das langsam satt hat.
Das Lernen durch Beobachtung als irgendwie schlecht darzustellen. Etwas, das buchstäblich jeder tut, Modell und Mensch gleichermaßen. Es ist der Prozess, auf dem diese ganze Branche aufgebaut ist. So zu tun, als wäre das schlecht, weil die anderen auch das tun, was man selbst getan hat, ist heuchlerisch und kindisch.
Währenddessen sitze ich hier und schaue auf einen "Flibbertigittering"-Spinner wie ein Höhlenmensch, unfähig, das Modell zu steuern, wenn es meine mehrdeutige Eingabe falsch interpretiert, weil ich 80 % der Ausgabe-Token, für die ich bezahle, nicht sehen darf.
- AlanYx
Die offene Frage hier ist, wie Anthropic diese Austausche speichert.
Wenn Moonshot die API nutzt, würde Anthropic normalerweise die Austausche nicht speichern, zumindest ist das das Versprechen. Wenn Anthropic konsequent alle Austausche einer Kundengruppe speichert, weil sie "markiert" sind, aber diese Kunden nicht benachrichtigt, wie kann ein durchschnittlicher Kunde darauf vertrauen, dass ihm das nicht passiert?
Wenn Moonshot Konten kauft und diese anstelle der API nutzt, würden sie dann nicht die Einstellung "kein Training mit meinen Daten" aktivieren, um länger unentdeckt zu bleiben? Wenn ja, kommen wir zurück zu der Frage, warum Anthropic die Austausche speichern sollte?
- segmondy
Wie kommt es also, dass Supergenie Fable und Mythos sie nicht aufgehalten haben?
- ahsillyme
Das ist seltsam. Ich kann mir kein besseres Kompliment vorstellen, das gleichzeitig sicherer ist. Sie werden dann immer bei der Datengenerierung hinterherhinken, oder? Also sehe ich den Sinn nicht. Im besten Fall für Moonshot können sie über Benchmarks lügen, die ohnehin manipuliert werden, so sehe ich das.