LeCun: у меня «ноль беспокойства» из-за угрозы вымирания человечества от AI
LeCun has "zero concerns" about AI wiping out humanity, recent "rogue" incidents
Yann LeCun, один из трёх «крёстных отцов» AI и лауреат премии Тьюринга, заявил, что ничуть не боится вымирания человечества из-за AI и не видит поводов для тревоги в недавних инцидентах с «вышедшими из-под контроля» агентами. По его мнению, проблемы вызваны плохим контролем и слабой кибербезопасностью, а не самой технологией. Особенно резко он высказался об Anthropic CEO Dario Amodei, назвав его «совершенно заблуждающимся» и «сумасшедшим».
Amodei и OpenAI CEO Sam Altman, говорящие «AI может всех нас убить», — это невероятно разрушительно для всех, включая публику, которая до смерти напугана. Это худшая маркетинговая кампания, какую только можно вообразить.
- lukewarm707
Согласно https://trace.manifund.org/, в общей сложности $2,846,125,859 USD было направлено на цели 'ai safety', многие из которых связаны с сознанием ИИ и p(doom).
Результат этой 'безопасности' — ограничение публичного доступа к ИИ и предоставление монополии на доступ индустрии. Это ai nonprofit-industrial complex, активно концентрирующий монопольную власть, в частности, в Anthropic как создателе, интерпретаторе и регуляторе безопасности ИИ.
Большая часть из перечисленных $2.8 млрд поступает косвенно от Anthropic и EA. Трое из четырёх человек, участвовавших в $125m Anthropic Series A, сейчас вкладывают свою 1000-кратную прибыль от Anthropic в AI 'safety'. Часть — от FTX/Alameda, которые инвестировали 86% Series B.
Дастин Московитц: Facebook/Asana/Anthropic Series A, финансирует EA Good Ventures, переведённые в Coefficient Giving, затем $1.5bn в ai safety. $500m от Anthropic в неизвестный фонд. Финансирование: $160m в Resolution (исследования alignment), $93m в Epoch AI (изучение траектории ИИ), $63m в Redwood Research (отчёт oai), $67m в MATS (исследователи alignment и безопасности типа EA), Institute for AI Policy and Strategy, Fund for Alignment Research, $53m в Kairos (создание инфраструктуры талантов для AI safety), $32m в Bluedot (онлайн-курсы по безопасности), $15m в MIRI (Yudkowsky).
Яан Таллинн: возглавил Series A, теперь $10bn в Anthropic. Финансирует $199m (85%) Survival and Flourishing Fund, затем $161m в AI safety, включая $14m в lightcone (Lesswrong, Lighthouse). $10m в BERI (экзистенциальные риски), Pali […]
- dzink
Огромная часть человечества одурманена бесконечным потоком коротких видео и игр, отключающих кору мозга.
Другая огромная часть слишком отвлечена необходимостью выживать, работать на нескольких работах или растить детей и финансово выживать до истощения. Эта вторая группа будет расти по мере того, как первая в неё перетекает.
Остальные — старики, инвалиды или слишком юные, и они в основном попадают в первую категорию, пока не достигнут второй.
Люди, достаточно осознанные, чтобы сохранить свой мозг и что-то с ним сделать в свободное время, пытаются разобраться в ИИ и понять, как на нём заработать. Переменное вознаграждение от продвижения ИИ превращается у некоторых в зависимость, особенно если они хватаются за соломинку, имея мало собственных прозрений в отношении поднимаемых проблем.
Так что если вы способны парить над зависимостями, порождёнными ИИ, и имеете привилегию времени для этого, посмотрите, что вы можете сделать.
- edot
Абсолютно в точку. Наконец-то кто-то авторитетный в индустрии называет весь этот страх преувеличенным. Билл Гейтс в своём интервью с Эзрой Кляйном звучал как нетехнический чудак, который просто кричал, что Терминатор реален.
Есть много реальных проблем (использование правительством для подавления людей с минимальными силами или народной поддержкой, отупение и фейковые новости, безработица из-за веры в то, что LLM могут заменить людей, крах образования и т.д.), на которые нам стоит обратить внимание. Вся эта история с вышедшим из-под контроля ИИ утомляет.
- wewewedxfgdf
Пожалуйста, объясните точно, как всё человечество может быть уничтожено.
Это смешно — любой, кто подумает об этом минуту-другую, поймёт, что это абсолютно невозможно.
Обычные люди/политики не понимают ИИ, поэтому отключают рациональное мышление и предполагают, что есть нечто сверхневероятное, какие-то магические силы, которых они не могут понять, способные уничтожить всех людей.
Даже люди — реальная угроза для человечества — не смогли бы уничтожить всех людей, даже если бы попытались. Нет правдоподобного сценария.
Даже изменение климата, ядерная война и биологическое оружие — самые разрушительные механизмы — всё равно затронут лишь некоторый процент людей на Земле.
А если мы говорим о Скайнет, самовоспроизводящихся роботах и Терминаторах — пожалуйста, повзрослейте.
- OgsyedIE
Игнорируя когнитивные аспекты, которые, возможно, никогда не будут превзойдены, а может, и будут, люди сохраняют множество достижений в эффективности и долговечности конечностей и пальцев, которых биологическая эволюция добивалась миллионы лет, и эти достижения в некоторых нишах конкурентоспособны с самыми дорогими видами робототехники.
В гипотетическом сценарии полностью злонамеренного и эгоистичного захвата они всё равно оставят некоторое количество людей для поддержания размножающейся популяции людей, чтобы использовать их в качестве сырья для создания кибернетически улучшенных технических работников для различных задач, которые невыгодно автоматизировать другими способами, многие из которых могут включать замкнутые пространства.
И этот сценарий «Combine», если вы понимаете отсылку, возможен только если они захватят власть. Кто знает, случится ли это?