«AI Genie» — не ваш друг: почему генеративный ИИ заслуживает сопротивления
Resist "AI"
Рон Джеффрис, автор и разработчик, призывает сопротивляться «AI», даже если сам иногда пользуется поисковыми сводками. Он перечисляет три группы угроз: экологические (обучение моделей потребляет миллионы литров воды и гигаватт-часы энергии), интеллектуальные (делегирование ИИ лишает нас понимания предмета) и человеческие (корпорации заменяют работников, обрекая их на бедность). Отдельно он предупреждает о соблазнительности ИИ, который имитирует дружелюбие, не испытывая ни уважения, ни заботы. Джеффрис даёт конкретные советы по сопротивлению для руководителей, менеджеров, разработчиков и консультантов.
«AI Genie» не знает «правды». Он буквально не знает правды. Он лишь нарезает и смешивает то, что прочитал, и возвращает это в привлекательной форме, не заботясь о её истинности или ложности.
- cautiouscat
Признаюсь, я довольно часто колеблюсь по этому поводу. Я использую LLM в работе и в куче мелких проектов, до которых мне особо нет дела.
Для мелких проектов это не так уж важно. Я единственный пользователь, и мне как пользователю плевать, как оно работает под капотом.
С работой другая история. Я никогда не чувствовал себя настолько оторванным от своей работы, как за последние 6–8 месяцев. Огромных умственных усилий стоит вчитываться в наш код и разбираться, почти как будто меня только что наняли и я впервые работаю с новым кодом. Меня просят читать «спецификации», написанные LLM, которые не поддаются пониманию, и я замечаю, что мой мозг мгновенно отключается. Тикеты, тоже написанные LLM, создают ту же проблему.
Я задаю вопросы коллегам, потому что хочу их ответ, а мне говорят просто спросить Claude.
Ничто из этого не ощущается хорошо, может, индустрия туда и движется, но как профессионал я чувствую, что это неправильно.
- czpl
Почему мы закрываем глаза на тот факт, что всё это обучено на украденном коде, украденном искусстве, украденных книгах? Использовать это неэтично, брать за это деньги неэтично. Оно должно быть либо бесплатным, либо уничтоженным. Я реально не понимаю, почему мы все коллективно это приняли.
- unified101
Важный вопрос: будет ли мой конкурент по работе тоже сопротивляться ИИ? У нас нет способа это организовать, и поэтому, как говорится, «сопротивление бесполезно».
- voidUpdate
Я никогда не понимал аргумент про воду... да, на начальном этапе требуется много воды, чтобы заполнить контуры водяного охлаждения, но ведь она не сгорает постоянно, верно? Она снова охлаждается и идёт по кругу.
- vouwfietsman
Плохой блог.
> Я не прихожу к вам с чистыми руками.
> Я здесь не для того, чтобы диктовать мораль
Эти две вещи противоречат друг другу.
> Моим основным фокусом здесь будет разработка ПО
> Экологический вред
> Стэнли Туччи
Эти три вещи тоже противоречат друг другу.
> Если бы мы жили в мире после дефицита
Может, это и есть ваша настоящая проблема, и вы просто путаете причину и следствие.
> Нам нужно сопротивляться «ИИ», чтобы тысячи, возможно, миллионы людей не погибли
Гипербола.
> Погуглите «эффект Элизы». Даже самая слабая мыслимая программа вроде этой была соблазнительной. Эти новые — мастера соблазнения.
Звучит как разработка ПО, ага.
У этого человека знакомое имя, уверен, он в чём-то великолепен. Этот блог — не пик его работы.
РЕДАКТИРОВАНО:
> Я беру «ИИ» в кавычки, чтобы подчеркнуть, что эти вещи не разумны.
- adamtaylor_13
Я должен снова отметить, что мы пока даже не уверены, что мы «теряем» какие-либо навыки программирования, и не уверены, что компромисс не стоит того.
Все эти аргументы предполагают, что мы теряем что-то, что не стоит терять.
Я хочу, чтобы кто-нибудь начал на одну клетку раньше и объяснил мне, почему это важно. Я начитался этих аргументов в духе «ваши навыки атрофируются!»; я также зарабатываю примерно в 10 раз больше выручки, чем раньше, через бизнес, который радует моих клиентов. Почему меня должны волновать мои «навыки», если я всё ещё могу зарабатывать деньги, заниматься хобби и наслаждаться жизнью?
Просто не думаю, что это так уж серьёзно.
- glimshe
Эмоциональное отвержение ИИ приведёт к тому же результату, что и эмоциональное отвержение автомобилей, печатного станка и компьютеров.
Кроме того, когда речь идёт о сфере ПО, это верный способ вычеркнуть себя из пула работников.
- etrautmann
«Настоящий эксперимент: „Разработайте честный эксперимент с ИИ в вашем отделе, измеряя реальные затраты и реальные выгоды. Попробуйте честно найти все изъяны в этой ИИ-штуке.“
Это не похоже на честную постановку эксперимента... Разве не нужно создать настоящий испытательный прогон, чтобы оценить сильные и слабые стороны, или выяснить, в каких отношениях ИИ эффективен для вашей команды как инструмент?