Las advertencias de los insiders sobre la IA no convencen en Silicon Valley
Dramatic insider warnings over AI fall flat with some in Silicon Valley
Jacob Coxon, investigador de Anthropic, renunció advirtiendo que la IA podría destruir la humanidad. Mientras Anthropic y OpenAI preparan salidas a bolsa millonarias, algunos ejecutivos e inversores de Silicon Valley ven en estas alertas una estrategia para generar hype. El CEO de Grindr, George Arison, las calificó de "peligrosas" y dejó de usar la tecnología de Anthropic. Jensen Huang las descartó como falsas.
Es irresponsable que nosotros, como administradores del dinero de nuestros accionistas, dependamos de una empresa que hace lo que hace esta compañía, en términos de sus declaraciones públicas.
- roryirvine
El CEO de Grindr, recién salido de compartir ilegalmente el estado de VIH de los usuarios con anunciantes, se queja de que una empresa que muestra escrúpulos sea "anticivilizatoria".
Asombroso.
- hackingonempty
Quizás puedan usar su brillante super IA para abordar algunas amenazas reales y presentes que están siendo ignoradas, como la aniquilación nuclear, la pérdida de la prohibición de la adquisición de territorio por la fuerza establecida después de la Segunda Guerra Mundial, la certeza de que todo el carbono fosilizado será extraído del suelo y liberado al medio ambiente, el resurgimiento del sarampión y una mala preparación para la próxima pandemia, ETC...
- dalemhurley
Estoy de acuerdo con el presentador del podcast All In, a menudo no lo estoy. Esto se trata de crear un foso con el que los modelos de código abierto no puedan competir, la regulación.
Es puramente asegurar que solo unos pocos proveedores puedan competir.
El futuro son los modelos en el edge y de código abierto.
Tanto Apple como Google están trabajando hacia esto.
La IA en la nube será para descargar cuando el edge no sea capaz.
En la mayoría de los casos el edge será suficiente.
Además, los costos de inferencia siguen bajando.
La integración vertical podría ser el mayor desafío de la industria de la IA. Intentar gestionar la generación de electricidad, el entrenamiento, la inferencia, el arnés y el usuario final para empresas y consumidores son muchas piezas móviles.
- bananaflag
A todos los que creen que esto es una conspiración nefasta de los CEOs para lograr regulación o para ocultar que han chocado contra un muro o para hacer que sus modelos parezcan más capaces o lo que sea:
Los argumentos sobre el riesgo de la IA son argumentos filosóficos que tienen 20-30 años y no tienen nada que ver con el panorama corporativo actual. Fueron concebidos por personas a las que realmente les importa el tema y todas las líneas de "ajá" tienen contraargumentos bien desarrollados. Por supuesto, pueden estar atrapados en su ideología, pero merecen un poco más de crédito.
No dudo que los CEOs de IA puedan beneficiarse de una crisis y que no necesariamente tengan nuestros mejores intereses en el corazón. Pero esto es lo mismo que hicieron los gobiernos durante el COVID al probar cuánto podían restringir la libertad. Esto no significa que el COVID no exista o que las vacunas sean malvadas o ineficaces o lo que sea. Igual aquí, si hay una ventaja para los CEOs en regular las cosas, no significa que las IA no puedan matarnos a todos y que la regulación podría darnos más tiempo para resolver la alineación.
Además: acepto que podría estar equivocado y que el riesgo de la IA podría ser un problema falso y/o que la alineación podría ser imposible, pero por favor traigan mejores argumentos si quieren convencerme.
- hypendev
Entonces, como alguien que trabaja con LLM a diario e incluso entrenó el suyo propio, que disfruta de los beneficios de esta tecnología a diario, se supone que debo:
- Escuchar a alguien que acaba de recolectar unos diez/cien millones construyendo IA en un laboratorio de frontera, luego decidió llamarlo "crisis existencial para la humanidad" y de repente va a trabajar en un organismo regulador hecho exactamente para esto.
- Escuchar a CEOs de startups de mil millones de dólares cerca de la IPO y que piden "una pausa en el desarrollo" y captura regulatoria, mientras tienen la frontera cubierta y siguen extrayendo valor allí como si nada hubiera pasado.
- Escuchar a "la gente" aparentemente, como intentan decir ONGs como irreplaceable.org, fingiendo que son personas normales y corrientes mientras las organizaciones son dirigidas por cabilderos políticos y personas que hacen sin fines de lucro políticos para vivir.
- Escuchar a "los agoreros", que en su mayoría consiste en personas que nunca han escrito código o ni siquiera están cerca de la tecnología, hablando de escenarios de ciencia ficción como si fueran nuestra realidad actual, es decir, "la IA replicándose en servidores y construyendo fábricas de drones/biolaboratorios/robots armados mientras nadie se da cuenta" como si fuera una amenaza seria que tenemos, sin pensar en la loca secuencia de eventos y fallos necesarios para llegar allí, y la posibilidad real de ser detectado en cada paso del camino.
- Escuchar a los que promocionan sus libros, substacks y podcasts hablando de la perdición de la IA, donde los involucrados son, de nuevo, en su mayoría no ingenieros y no tienen idea de cómo un [...]