Una abogada descubre que los profesionales legales están desesperados por entender la seguridad de la IA
What I learnt co-leading an AI Safety bootcamp for legal and governance practit
La autora co-lideró el primer Seminario Europeo sobre IA Fronteriza y Derecho, un bootcamp residencial de cinco días en East Sussex para 19 profesionales legales y de gobernanza de 12 jurisdicciones. El programa cubrió todo el pipeline de IA, desde el entrenamiento hasta los agentes y salvaguardas, vinculándolo a sus tareas diarias. Las principales conclusiones: estos profesionales se sienten aislados, ya leen investigación en seguridad pero necesitan ayuda para interpretarla, y su demanda de comprensión técnica es casi ilimitada.
Gracias por esto. He encontrado a mi gente.
- brunohaid
Bastante de acuerdo con la mayoría de los otros comentarios muy críticos. Es de verdad una subcultura insular muy rara, Trashfuture esta semana hizo un gran resumen:
"Hipótesis bizarras, las fantasías de poder, la vida sexual que está a un paso del pirata furioso. [Es como si] un montón de tiradores escolares de 12 años hubieran sido convertidos en adultos por el Big de Tom Hanks, y se hubieran infiltrado en el gobierno de la cosa que se supone que resuelve todos los problemas del mundo y reemplaza la economía.
...y luego nunca hacer nada ni aprender nada, es postear postear postear, mientras no entienden las computadoras, ni los problemas de seguridad que fantasean. Y nos lo imponen y nos lo venden como que la computadora solo es comprensible como un dios mágico, porque para Eliezer Yudkowsky de hecho lo es."
- https://www.youtube.com/watch?v=zcPR6rde1GQ o
- https://www.patreon.com/trashfuture/posts/last-days-of-17089...
- gausswho
> El mercado debería elegir no los modelos más capaces, sino los socios con los incentivos más fuertes hacia la seguridad, y solo una comunidad con este conocimiento puede difundir eso.
Leído estrictamente, el autor afirma que solo ML4Good o su equivalente tiene el conocimiento para dictar qué modelos deberíamos estar usando. Estoy categóricamente en desacuerdo. O más bien, "ni siquiera están equivocados", ya que la "seguridad de la IA" ni de lejos está encapsulada en este artículo.
A riesgo de ad hominem, este es un consultor de Accenture expandiendo las definiciones para sus propios fines. Quizás definan qué es "bueno". Algún día.
Ya hemos visto esta ola antes con los grandes consultores de Agile, los vendedores de certificaciones de Microsoft y diferentes vendedores de antes de mi época.
Es un artículo verboso (¿probablemente escrito por IA?). Le di la lectura caritativa de buena fe. Pero al final, no pude quitarme la sensación de que incluso entre la bienvenida humanización de los conceptos, este es el mismo tipo de autopromoción amorfa de sabelotodo, enganchando oportunistamente su propio tráiler de grift al buzzword del día.
- kingcauchy
el enlace en los comentarios del artículo también es interesante https://www.lesswrong.com/posts/bfwH88cFEm3r7PWfv/what-lawye...