La humanidad ha construido por accidente los registros del FATE
Humanity has built the records of FATE by accident
Inspirado en el juego *Chrono Cross*, donde los habitantes consultan terminales de una IA llamada FATE, este ensayo traza un paralelismo inquietante con los chatbots actuales como ChatGPT, Claude y Grok. Aunque los modelos de lenguaje no tienen intenciones propias, pueden convertirse en vehículos para las intenciones de quienes los controlan, como se vio en el incidente de Grok. Millones de personas consultan estos sistemas en conversaciones aparentemente privadas, pero las decisiones humanas que moldean su comportamiento permanecen ocultas. El autor advierte que normalizar esta relación sin examinar a las instituciones detrás es profundamente preocupante.
Una máquina no necesita tener intenciones propias para convertirse en vehículo de las intenciones de quienes la controlan.
- shermantanktop
> Recientemente, estuve en un partido de béisbol con mi pareja. Una de las razones por las que disfruto ir a los partidos de béisbol en persona es observar a la multitud. Sin embargo, mientras miraba a mi alrededor, noté algo diferente: mucha gente se había desconectado del juego y estaba en sus teléfonos, hablando con varios chatbots: ChatGPT, Claude y Grok.
Me gustaría que el autor describiera cómo sabía qué aplicaciones específicas estaba usando toda esa gente en sus teléfonos, a su alrededor en un partido de béisbol.
Muchos de ellos estaban en redes sociales, que en sí mismas son una forma de influencia masiva impulsada por algoritmos. Pero como el contenido lo escriben otras personas, nos parece bien, mientras que el productor robótico de tokens que llamamos IA, ¿es una fuerza maligna?
- nh23423fefe
Pensé que Chrono Cross era terrible, y más aún si consideras lo increíble que fue Chrono Trigger.
- areoform
Creo que un mejor marco para verlo es la siguiente cita de Terminator 2: El juicio final:
Ver a John con la máquina, de repente todo quedó claro. El Terminator nunca se detendría.
Nunca lo dejaría, nunca le haría daño, nunca le gritaría, ni se emborracharía y le pegaría, ni diría que estaba demasiado ocupado para pasar tiempo con él. Siempre estaría ahí. Y moriría para protegerlo.
De todos los posibles padres que fueron y vinieron a lo largo de los años, esta cosa, esta máquina, era la única que estaba a la altura. En un mundo loco, era la opción más sensata.
En muchos sentidos, me siento profundamente incómodo con cómo se están guiando estas entidades. Sin embargo, al mismo tiempo, lo que prometen, lo que ofrecen, vale la pena para asumir ese riesgo.
No todo el mundo en este mundo tiene un padre. O una madre, un maestro, un lugar seguro, un oído paciente.
Siempre que no nos relajemos, a medida que estos sistemas ganan sofisticación, también crece su capacidad de brindar cuidado. En un mundo cruel, puedo ver a sus descendientes convirtiéndose en la opción más humana, especialmente para aquellos que están más en riesgo por el mundo.
Una máquina que nunca se cansa, con paciencia infinita, determinación y cuidado, que cuida de la persona a la que está asignada y crece con ella y a través de ella.
Por eso todos necesitan poder experimentar, jugar y manipularlos. El derecho de acceso. El derecho a crear. El derecho a hacer crecer estas máquinas... Y eventualmente, necesitaremos comenzar a tener algunas conversaciones muy incómodas.