Все должны замедлить разработку AI. Кроме меня

Мне приходится задаваться вопросом, не привыкли ли некоторые из нас гораздо сильнее к продавцам, а значит, и к пропаганде «AI Safety». Мне ещё не доводилось вести логическую дискуссию с кем-либо, кто считает, что люди из «AI Safety» должны быть у власти, и я думаю, они просто искренне не понимают, что большинство из них на самом деле хотят быть теми, у кого в руках ключи от власти.

Предсказание: через несколько лет мы будем смеяться над этой истерией и называть её моральной паникой.

Обязательное «что такое Lygma?» Но если серьёзно, этот AI-думеризм достиг комической точки перелома. Несколько лет назад GPT-2 была слишком опасна для выпуска, потом какой-то чудак из Google сказал, что у Gemini есть душа или что-то в этом роде, потом Mythos-tier стал мемом, потом какой-то пацан уволился и пошёл на FOX News рассказывать про Скайнет, а теперь и Amodei, и Altman снова на поезде «нам нужно замедлиться»; и это после того, как мы уже прошли этот путь и Claude запретили за рубежом; погодите, вообще, этот запрет всё ещё действует? Честно говоря, кому нахуй уже есть дело.

Это всё театр. OpenAI и Anthropic, скорее всего, обанкротятся — или, что реалистичнее, будут проданы по частям — и они абсолютно заслуживают этого за кражу моей (книг, которые я написал, постов в блоге и т.д.) и чужой интеллектуальной собственности. Мы приближаемся к моменту, когда модели становятся товаром, и я на 100% уверен, что следующим шагом будет своего рода «программный слой» поверх этих систем рассуждения, который и станет настоящей революцией. Сама модель больше не будет такой интересной, вся ценность в работе, которая идёт вокруг неё (примерно как компьютеры и телефоны сегодня; чипы потрясающие, но магия — в программном обеспечении).

Единственная пугающая часть — что бумеры в Конгрессе могут реально поверить этим задротам, но, видя, как рейтинги одобрения Big Tech приближаются к уровню Big Tobacco в 90-х, я не думаю, что нам есть о чём сильно беспокоиться.

Странно, что это представляется/ожидается как некое достижение alignment. Или что таково намерение. Это точно так же, как ядерная гонка, начавшаяся в 40-х и 50-х, и предотвращение продолжается! Дело не в безопасности и опасности, и я не говорю, был бы более открытый доступ к ядерным технологиям безопаснее (не думаю). Дело в том, чтобы быть избранными немногими, кто обладает и контролирует эту, возможно — очень скоро — невообразимо опасную и небезопасную технологическую границу. Несколько компаний одной страны, или несколько компаний из очень немногих стран. Решительно не пускать всех остальных. Вот в чём суть.

Что ещё хуже — в этом случае «все остальные» — это не просто каждая другая нация или компания, а буквально почти все остальные.

Речь о консолидации власти.

Открытые весовые модели догоняют передний край. Также похоже, что передовые модели достигли некоего предела, связано ли это с капитальными затратами, бизнес-моделью или чем-то ещё. Никто не знает, но это, кажется, происходит со всеми передовыми лабораториями.

Много раз пугали, что AI всех нас убьёт. Но на этот раз человек со стажем около 2-3 месяцев в Anthropic сумел стать вирусным без предыдущей активности в соцсетях, его подхватили все новостные издания и запустили очередной раунд страшилок.

Так что реальные вопросы, которые стоит задать:

* всё это для повышения оценок перед IPO?

* каков реальный барьер для входа открытых весовых моделей для использования публикой?

* что в финансовых показателях этих компаний вызывает этот крик о безопасности?

Людям нужно действительно критически думать о том, что происходит вокруг них. Не смотрите только на поверхностную ценность того, что здесь представлено.

Именно поэтому призыв Anthropic замедлить разработку A.I. провалится. Акционеры не захотят мириться с тем, что компания теряет лидерство, и соответствующим резким падением цены акций.

Более того, это может позволить Китаю догнать и в конечном итоге заявить, что он вырвался вперёд США в этой области. Правительство США этого не допустит.

Я действительно не знаю, что будет с AI. Честно говоря, это немного пугает, потому что вопрос, над которым я в детстве размышлял просто ради забавы — «Что, если AI взбунтуется?» — кажется, может быть не так уж далёк. Кажется, ChatGPT вышел всего несколько лет назад, но, видя, как далеко он уже зашёл, невозможно предсказать, каким будет AI в будущем. Я просто надеюсь, что человечество сумеет пройти через это хорошо.

Если кто-то и положит конец человечеству, то почему бы и не catgirls, в конце концов?

> Все должны замедлить разработку AI, кроме меня

Кто это сказал? И, шире, кто это подразумевал? Очень любопытно, есть ли конкретные статьи/посты, которые к этому подтолкнули.