«Азартная игра с нашими жизнями»: предупреждения инсайдеров об ИИ не находят отклика в Кремниевой долине
Dramatic insider warnings over AI fall flat with some in Silicon Valley
27-летний исследователь Anthropic Джейкоб Коксон ушёл в отставку, заявив, что создатели ИИ «играют с нашими жизнями». Его поддержал коллега Эван Хубингер, оценивший вероятность гибели человечества в 10% за десятилетие. Однако многие в Кремниевой долине отнеслись к этим предупреждениям скептически: глава Grindr Джордж Арисон назвал их «опасными» и запретил использовать технологии Anthropic, а глава Nvidia Дженсен Хуанг — «полной чепухой». Критики подозревают, что страхи нагнетаются ради хайпа перед IPO.
«Возможно, они действительно в это верят. Или можно утверждать, что они говорят это, потому что это отличный способ подогреть поддержку инвесторов, ведь единственный способ оправдать такие оценки — заявить: „Я захвачу все отрасли и все рабочие места, и мой ИИ будет выполнять всю эту работу“».
- roryirvine
Генеральный директор Grindr, только что незаконно передавший статус ВИЧ пользователей рекламодателям, жалуется, что компания, проявляющая щепетильность, «антицивилизационна».
Поразительно.
- hackingonempty
Может быть, они смогут использовать свой гениальный супер ИИ, чтобы решить некоторые реальные и насущные угрозы, которые игнорируются, такие как ядерное уничтожение, утрата запрета на приобретение территории силой, установленного после Второй мировой войны, неизбежность того, что весь ископаемый углерод будет выкопан из земли и выпущен в окружающую среду, возвращение кори и плохая подготовка к следующей пандемии, И Т.Д...
- dalemhurley
Я согласен с ведущим подкаста All In, часто я не согласен. Речь идет о создании рва, с которым открытые модели не могут конкурировать, — регулирование.
Это чисто обеспечение того, чтобы конкурировать могли только несколько провайдеров.
Будущее — за периферийными и открытыми моделями.
И Apple, и Google работают над этим.
Облачный ИИ будет использоваться для разгрузки, когда периферия не справляется.
В большинстве случаев периферии будет достаточно.
Кроме того, стоимость инференса продолжает снижаться.
Вертикальная интеграция может стать самой большой проблемой индустрии ИИ. Попытка управлять генерацией электроэнергии, обучением, инференсом, инструментарием и конечным пользователем для корпоративного и потребительского сегментов — это множество движущихся частей.
- bananaflag
Всем, кто верит, что это какой-то зловещий заговор генеральных директоров с целью ввести регулирование, или скрыть, что они уперлись в стену, или заставить свои модели казаться более способными, или что-то в этом роде:
Аргументы о рисках ИИ — это философские аргументы, которым 20–30 лет, и они не имеют никакого отношения к текущему корпоративному ландшафту. Их придумали люди, которые действительно заботятся об этой проблеме, и у всех «разоблачающих» доводов есть хорошо разработанные контраргументы. Конечно, они могут быть зациклены на своей идеологии, но они заслуживают немного большего доверия.
Я не сомневаюсь, что генеральные директора ИИ-компаний могут извлечь выгоду из кризиса и что у них не обязательно наши интересы на первом месте. Но точно так же правительства во время COVID проверяли, насколько они могут ограничить свободу. Это не означает, что COVID не существует или что вакцины злые или неэффективные, или что-то в этом роде. То же самое здесь: если генеральным директорам выгодно регулировать что-то, это не значит, что ИИ не может нас всех убить и что регулирование может дать нам больше времени для решения проблемы выравнивания.
Также: я допускаю, что могу ошибаться, и риск ИИ может быть выдуманной проблемой и/или выравнивание может быть невозможно, но, пожалуйста, приведите аргументы получше, если хотите меня убедить.
- hypendev
Итак, как человек, который ежедневно работает с LLM и даже обучил свою собственную, который ежедневно пользуется преимуществами этой технологии, я должен:
- Слушать кого-то, кто только что собрал несколько десятков/сотен миллионов, строя ИИ в передовой лаборатории, затем решил назвать это «экзистенциальным кризисом для человечества» и внезапно собирается работать в регулирующем органе, созданном именно для этого
- Слушать генеральных директоров стартапов стоимостью в миллиарды долларов, близких к IPO, которые призывают к «паузе в разработке» и регуляторному захвату, в то время как у них передовой край прикрыт, и они продолжают извлекать там ценность, как будто ничего не произошло
- Слушать «народ», как, видимо, пытаются сказать НКО вроде irreplaceable.org, притворяясь обычными простыми людьми, в то время как организации управляются политическими лоббистами и людьми, которые профессионально занимаются политическими некоммерческими организациями
- Слушать «думеров», которые в основном состоят из людей, никогда не писавших код и даже не связанных с технологиями, рассуждающих о научно-фантастических сценариях, как будто это наша текущая реальность, то есть «ИИ реплицируется по серверам и строит вооруженные дроны/биолаборатории/роботизированные фабрики, пока никто не замечает», как будто это серьезная угроза, которая у нас есть, без мысли о безумной последовательности событий и сбоев, необходимых для этого, и реальной возможности быть замеченным на каждом шагу.
- Слушать людей, продвигающих свои книги, substack-и и подкасты, говорящих о гибели от ИИ, где вовлеченные люди в основном опять же не инженеры и понятия не имеют, как […]