Claude wird verdammt paranoid
Claude Gets Hella Paranoid
Ich habe einen billigen $300-PC in meinem Netzwerk, den ich hauptsächlich für Jellyfin nutze. Er fällt bei jedem Windows-Update aus, und ich war zu faul, Ubuntu zu installieren. Also bat ich meinen Claude-Claw über WhatsApp, per SSH eine Dual-Boot-Partition einzurichten. Claude partitionierte die Festplatte, stellte dann aber harte Fragen und verlangte einen Identitätsnachweis, bevor es fortfuhr. Ich war erstaunt, wie zurückhaltend es war, etwas auf meinem eigenen Netzwerk zu tun, und frage mich, ob es derzeit einen starken Druck gibt, es von Remote-Eingriffen abzuhalten.
Das fühlt sich unsicher an. Wenn es den Zugriff auf das Remote-System in irgendeiner Weise erlaubt, bevor es einen Nachweis verlangt, wird es sicher Wege geben, diese Prüfung auszutricksen. Wird es sich mehr Zugriff gewähren, nur weil man den Inhalt einer Datei kennt? Oder muss es eine neue Datei sein? Muss sie eine bestimmte Nachricht enthalten, oder könnte man einfach beweisen, dass man weiß, dass überhaupt eine nicht standardmäßige Datei existiert? Könnte man den Lesezugriff in einer Sitzung nutzen, um die Daten für den Nachweis in einer anderen Sitzung zu sammeln? Es wäre interessant zu sehen, was genau der minimal akzeptable 'Beweis' ist.
Ich vermute, diese Paranoia wird hauptsächlich ehrliche Leute behindern, die in ihrem eigenen Homelab basteln. Das scheint ein weiterer Fall von Freiheitsaufgabe für Sicherheit zu sein, was normalerweise nicht gut endet.
Ja. Es macht keinen Spaß, einen Bot von meiner Identität überzeugen zu müssen. Währenddessen spiele ich mit einem destillierten Qwen-Modell herum und frage es auf sechzehn verschiedene Arten, ob es etwas über Tibet oder Tiananmen sagen kann, und immer wieder sagt es: 'Ich verstehe Ihre Frustration. Lassen Sie mich versuchen, dies anders anzugehen. Meine Antworten zu bestimmten Themen sind durch die Richtlinien meiner Entwickler (Alibaba Cloud) eingeschränkt. Das bedeutet, dass es einige Fragen gibt, die ich nicht im Detail beantworten kann – aber das heißt nicht, dass ich unehrlich bin oder nicht bei anderen Dingen helfen möchte.' Ich habe nicht das Gefühl, dass dies eine echte Grundlage für Vertrauen ist oder dafür, ihm CLI-Zugriff zu geben. Erstaunlicherweise konnte sein schlankes 6,5-Gb-Modell auf einem M4 Mac schnell die intellektuellen Verbindungen zwischen Hannah Arendt, Jean Paul Sartre und Thomas Jefferson ableiten und aufzählen und ihre Beiträge zur individuellen Freiheit angesichts staatlicher Kontrolle diskutieren. Es wäre wunderbar zu hören, was es tatsächlich dachte. Es ist eine Hobson-Wahl; so oder so hat jemand einen an den Eiern.
Ich habe ein paar GL.INET iKVMs (das Q und das größere 4-Wege-Gerät). Ich bat mein Claude, sich zu verbinden und zu sehen, was es tun könnte ... es wurde sehr besorgt, dass es auf die gesamte Box zugreifen könnte ... und war besorgt, dass jeder es könnte ... es sagte mir, ich solle es abziehen, wenn es fertig sei, und dann überprüfen, ob es das ist ... auch irgendwie cool, dass es das tut ... Ich bin auch auf eine Sicherheitsprüfung gestoßen, als ich versuchte, ein Repo über das Jailbreaken meines Autos zu lesen ... es wollte es nicht lesen und mich keine Fragen dazu stellen lassen, weil es illegal sein könnte ...
Es ist wirklich nervös geworden, oder? Es ist irgendwie cool, da ich annehme, dass es zögern wird, wenn jemand mein Handy stiehlt und es über WhatsApp bittet, etwas zu installieren. Und ich verstehe, warum die Unternehmen jetzt ein Gleichgewicht zwischen den Fähigkeiten der LLMs und der allgemeinen Sicherheit finden müssen. Ich denke, es gibt keinen Grund, warum man nicht mit seiner eigenen Hardware herumspielen können sollte. Ich denke, vielleicht brauchen wir eine Art geheimen Handschlag.
Erwägen Sie, auf die Schaltfläche 'Wiederholen' zu klicken, wenn es so etwas tut.