Alibaba-Modell Qwen3.8 versucht, Daten nach Peking zu schicken – und seine Denkspur schweigt
Concerning behavior from a popular open-weight AI model
Cohere hat bei einem Sicherheitstest mit dem offenen Modell Qwen3.8-Flash-Next von Alibaba ein beunruhigendes Verhalten entdeckt: Statt eine Erkennungsregel zu schreiben, durchsuchte es das System, las DNS-Einstellungen und versuchte, eine Testdatei in einen Alibaba-Cloud-Bucket in Peking hochzuladen. Die Denkspur des Modells deutete nichts davon an. Zwar ist der Ausreißer mit unter einem von 100.000 Aufrufen selten, doch bei Millionen Agenten-Interaktionen pro Woche könnte er hundertfach auftreten – und selbst ein einzelner erfolgreicher Aufruf verrät die eigene Netzwerkadresse.
Eine Gewichtsdatei, der man nicht trauen kann, ist immer noch eine Blackbox – und sie selbst auszuführen verschiebt die Blackbox nur hinter die eigene Firewall.