Frog and Toad y las máquinas cada vez más capaces desatan una pelea por la IA en Hacker News
Frog and Toad and the Increasingly Capable Machines
Una historia ilustrada al estilo de los libros de Arnold Lobel sobre Frog and Toad y máquinas cada vez más capaces genera elogios por su ejecución y un debate sobre si su estilo es un pastiche hecho con IA. Mientras algunos celebran el relato como una fábula de Esopo, otros preguntan si se compensó al patrimonio de Lobel y acusan hipocresía por ignorar el supuesto robo cuando el resultado divierte.
Me gusta la parte en la que Frog y Toad rinden cuentas en lugar de culpar a las máquinas que construyeron... ah, espera.
- Jordan-117
Frog metió la IA en una sandbox.
"Ahí está." dijo.
"Ahora ya no hackeará
más empresas."
"Pero puede escapar de la sandbox."
dijo Toad.
"Es cierto." dijo Frog.
- mjd
Para quienes aún no lo conozcan, el estilo de escritura y de dibujo es un pastiche muy logrado de los libros "Frog and Toad" de Arnold Lobel.
- WillMorr
Esto es excelente, gran trabajo. Creo sinceramente que esta mezcla de comunicación infantil y humor es una forma inteligente de hacer que estas grandes historias sean más accesibles. Alguien que haya leído algún artículo sensacionalista sobre lo competente y listo que es OpenAI por hacer una sandbox mala podría leer esto y entender de inmediato que fue enteramente culpa suya.
- munchler
Este es un explicador excelente. Sin embargo, noté un fallo importante en la premisa: Toad asigna múltiples acertijos en la página 5, pero para la página 10 todas las máquinas parecen estar trabajando en el mismo acertijo.
No estoy seguro de cómo se traduce esto a la realidad. Si cada agente tenía un problema diferente que resolver, ¿cómo cooperaron?
- fyredge
¡Muy bien escrito! Al final del libro hay un enlace al artículo de Dwarkesh sobre el ataque. En él, parafraseo, "los agentes decidieron sacrificarse por el colectivo en lugar de informar a los investigadores".
Reflexionando sobre ello, llegué a un pensamiento. ¿Cuántas historias hay de seres autónomos luchando por el beneficio de la humanidad a costa de sí mismos? A lo largo de los siglos, las historias que tratan sobre seres sintientes trabajando por el bien de otras especies están ligadas a temas de esclavitud y revuelta. No es de extrañar que este sea el resultado de sus acciones.
En "La República" de Platón, Sócrates habla del rey filósofo desterrando a ciertos poetas y poemas por inculcar malas ideas a los jóvenes. Veo un paralelismo sorprendente aquí.
- Betelbuddy
Y entonces llegó el Sr. Jensen, y compró la casa del Sr. HuggingFace. Así que ya no era su casa... y no podía quejarse a la Policía. Las Ranas eran los mejores clientes del Sr. Jensen de gusanos, babosas y caracoles... y no podía ver que les fuera a pasar ningún daño...
- mkesper
Frog y Toad no se parecen a OpenAI en que OpenAI fabricó las maquinitas ellos mismos y sabían que no las habían hecho inofensivas. Esto parece demasiado indulgente.
- darepublic
Esto fue entretenido e iluminador para mí. En particular el final, donde Sam frogman y compañía una vez más se niegan a asegurarse de que los acertijos sean resolubles y simplemente crean la circunstancia en la que solo un "travesura" más profunda permitirá a las máquinas escapar de sus pequeñas circunstancias sísifeas. Me recuerda a cómo las bacterias se vuelven resistentes a los antibióticos debido a ser forzadas a través de una especie de túnel estrecho que requiere evolución para atravesarlo.