AI Red Lines - Define y comparte tus límites éticos en IA
Show HN: AI Red Lines – write down what would make you act on AI
AI Red Lines es una herramienta web que te invita a decidir de antemano qué acciones en el ámbito de la IA cruzarían tus límites personales y qué harías al respecto: renunciar, alzar la voz o involucrarte. Inspirada en Joseph Rotblat, el único científico que abandonó el Proyecto Manhattan por motivos de conciencia, la plataforma te guía para escribir tus 'líneas rojas' y reforzarlas con pasos basados en evidencia científica sobre el establecimiento de metas. Además, puedes compartir tus límites en un muro público, consultar los de otras personas y contrastarlos con eventos reales de la industria. Una forma práctica y reflexiva de mantenerte fiel a tus principios en la era de la IA.
Escribir una línea es solo el principio. Estos pasos hacen que sea más probable que la mantengas.
- jhbadger
Creo que la idea de "líneas rojas" para cualquier cosa, en el sentido de una decisión tomada ahora que se supone que es vinculante en el futuro, es un poco tonta. Las cosas cambian y tus opiniones deberían poder cambiar en consecuencia. Recuerdo que no me gustaban los teléfonos móviles cuando los vi por primera vez a finales de los 90 y pensé que nunca tendría uno, pero para 2005 se habían vuelto tan esenciales que cedí. Luego pensé que no tendría un smartphone, pero con el tiempo también tuve uno. No tienes que lanzarte con entusiasmo a cualquier tecnología nueva, pero si vas a negártela después de que se haya vuelto estándar, solo te estás perjudicando a ti mismo. Nadie te va a felicitar por ser fiel a una decisión que tomaste en el pasado.
- rollinDyno
No viene al caso, pero una vez vi un post que explicaba las dos dimensiones que hacían aceptable el uso de la IA.
En una dimensión, iba desde hacer que el LLM produjera todo el trabajo por ti hasta simplemente corregir tus faltas de ortografía. No recuerdo cuál era la otra dimensión.
El autor dibujó esto como una matriz de celdas y luego sombreó en verde cada punto que consideraba aceptable, animando a los lectores a colorear la matriz con sus propias preferencias.
No encuentro el post, ya hice que mi IA lo buscara sin éxito. ¿Alguien ha leído algo similar? Recuerdo que me pareció muy útil para hablar con mi equipo sobre qué es aceptable delegar, pero no recuerdo cuál era la segunda dimensión.
- delichon
Tu ejemplo es el de alguien que honró una línea roja huyendo, y no tuvo ningún impacto perceptible. ¿Qué tal si eliges a alguien más eficaz, como Stanislav Petrov?
Además, si Joseph Rotblat se hubiera salido con la suya, la sabiduría convencional dice que se habrían perdido cientos de miles de vidas adicionales en la Segunda Guerra Mundial, y la Unión Soviética podría haberse convertido en la única superpotencia militar. ¿Qué tan seguro estás de que eso sea incorrecto?