Юристы и специалисты по управлению уже читают исследования по AI safety — но не умеют их интерпретировать
What I learnt co-leading an AI Safety bootcamp for legal and governance practit
Автор делится опытом со-руководства первым Европейским семинаром по фронтирному AI и праву — пятидневным буткемпом для 19 senior-специалистов в области права, управления и рисков из 12 юрисдикций. Главные наблюдения: профессионалы с впечатляющими должностями чувствуют интеллектуальную изоляцию, они уже читают исследования по AI safety, но не всегда понимают, как их трактовать, а их потребность в технических знаниях практически неутолима. Автор также отмечает, что юридические проблемы в технических компаниях часто требуют технических решений и что рыночные стимулы — недооценённый рычаг для AI safety.
«Спасибо за это. Я нашёл своих людей».
- brunohaid
Пожалуй, соглашусь с большинством других крайне критических комментариев. Это действительно странная замкнутая субкультура, на этой неделе Trashfuture дали отличное резюме:
"Причудливые гипотетические сценарии, фантазии о власти, сексуальная жизнь на шаг от злого пирата. [Это как] будто толпу 12-летних школьных стрелков с помощью Тома Хэнкса из «Большого» превратили во взрослых, и они просочились в управление тем, что должно решить все проблемы мира и заменить экономику.
...а потом ничего не делать и ничему не учиться, это постить, постить, постить, при этом они не понимают компьютеры или проблемы безопасности, о которых фантазируют. И нам это навязывают и преподносят так, что компьютер можно понять только как магического бога, потому что для Элиезера Юдковского он на самом деле такой."
- https://www.youtube.com/watch?v=zcPR6rde1GQ или
- https://www.patreon.com/trashfuture/posts/last-days-of-17089...
- gausswho
> Рынок должен выбирать не самые способные модели, а партнёров с самыми сильными стимулами к безопасности, и только сообщество, обладающее этим знанием, может это распространить.
Если читать буквально, автор утверждает, что только ML4Good или эквивалент обладает знанием, чтобы диктовать, какие модели мы должны использовать. Я категорически не согласен. Или, вернее, "они даже не неправы", поскольку "AI safety" в этой статье даже близко не охвачена.
Рискуя скатиться к ad hominem, это консультант из Accenture, расширяющий определения ради своих целей. Может быть, они определят, что такое "хорошо". Когда-нибудь.
Мы видели эту волну раньше с большими Agile-консультантами, продавцами сертификаций Microsoft и разными проходимцами ещё до моего времени.
Это многословная (вероятно, написанная ИИ?) статья. Я прочитал её с доброжелательным настроем. Но в конце концов не мог отделаться от ощущения, что даже среди приветствуемого очеловечивания концепций это всё та же аморфная самореклама в духе "знаем лучше вас", оппортунистически цепляющая свой вагончик аферы к модному словечку дня.
- kingcauchy
ссылка в комментариях к статье тоже интересна https://www.lesswrong.com/posts/bfwH88cFEm3r7PWfv/what-lawye...