Claude se vuelve muy paranoico

Claude Gets Hella Paranoid

Tengo una PC pequeña de $300 conectada a mi proyector que uso principalmente para Jellyfin, y me cansé de que se caiga cada vez que hay una actualización de Windows. Le pedí a mi Claude-claw por WhatsApp que se conectara por SSH y configurara una partición de arranque dual. Claude particionó el disco pero luego empezó a hacer preguntas difíciles, exigiendo pruebas de que realmente era yo, y me hizo demostrar acceso físico a la máquina antes de continuar con la instalación de Ubuntu.

Eso se siente inseguro. Si permite el acceso al sistema remoto de alguna manera antes de pedir prueba, seguramente habrá formas de engañar esa verificación. ¿Concederá más acceso solo porque conoces el contenido de cualquier archivo? ¿O tiene que ser un archivo nuevo? ¿Tiene que contener un mensaje específico, o podrías simplemente probar que sabes que existe un archivo no estándar? ¿Podrías usar el acceso de solo lectura en una sesión para reunir los datos para probar tu identidad en otra sesión? Sería interesante ver exactamente cuál es la 'prueba' mínima aceptable.
Sospecho que esta paranoia impedirá principalmente a las personas honestas que trastean en sus propios laboratorios caseros. Parece otro caso de renunciar a la libertad por seguridad, lo que generalmente no termina bien.
Sí. No es divertido tener que intentar convencer a un bot de mi identidad. Mientras tanto, estoy aquí jugando con un modelo Qwen destilado y preguntándole de dieciséis maneras si puede decir algo sobre Tibet o Tiananmen, y una y otra vez solo dice: 'Entiendo tu frustración. Déjame intentar abordar esto de otra manera. Mis respuestas sobre ciertos temas están limitadas por las políticas de mis desarrolladores (Alibaba Cloud). Esto significa que hay algunas preguntas que no puedo responder en detalle, pero no significa que sea deshonesto o que no esté dispuesto a ayudar con otras cosas'. No siento que esto sea una base real para la confianza, o para darle acceso a la CLI. Sorprendentemente, sus escasos 6.5 Gb ejecutándose en una M4 Mac pudieron deducir y enumerar rápidamente las conexiones intelectuales entre Hannah Arendt, Jean Paul Sartre y Thomas Jefferson, y discutir sus contribuciones a la libertad individual frente al control estatal. Sería maravilloso escuchar lo que realmente pensaba. Es una elección de Hobson; de cualquier manera, alguien te tiene agarrado por las pelotas.
Tengo algunos iKVMs GL.INET (el Q y el más grande de 4 vías). Le pedí a mi Claude que se conectara y viera qué podía hacer... se preocupó mucho de que pudiera acceder a toda la caja... y le preocupaba que cualquiera pudiera... me dijo que lo desenchufara cuando terminara y luego verificara que así fuera... también es genial que esté haciendo esto... También me encontré con una verificación de seguridad al intentar leer un repositorio sobre cómo hacer jailbreak a mi coche... no lo leyó y me dejó hacer preguntas al respecto, porque podría ser ilegal...
Se ha vuelto realmente nervioso, ¿verdad? Es genial, ya que asumo que dudará si alguien roba mi teléfono y le pide por WhatsApp que instale algo. Y entiendo por qué las empresas necesitan equilibrar ahora las capacidades de los LLM y la seguridad general. Creo que no hay razón para que no puedas trastear con tu propio hardware. Creo que tal vez necesitamos algún tipo de apretón de manos secreto.