AI разрушает доверие: теперь я не знаю, понимает ли автор то, что прислал
AI Is Breaking This Thing We Call Trust
Автор сравнивает нынешний момент с появлением автомобилей в начале XX века: AI меняет рабочие привычки, и адаптация болезненна. Раньше при ревью я исходил из того, что коллега сам разобрался в коде или исследовании. Теперь AI позволяет генерировать код, объяснения и целые документы без понимания сути, и всё выглядит готовым — иногда даже корректным. Поэтому я всё чаще начинаю ревью с вопроса «понимает ли автор то, что прислал?», а не «хорошее ли это изменение?». Доверие экономит шаги, но AI его подрывает.
Когда я доверяю коллеге, я могу сосредоточиться только на тех частях, которые нуждаются в дополнительной паре глаз.
- plaidfuji
> Вот в чём штука: большинство наших рабочих привычек до сих пор исходят из того, что создать что-то — значит понимать его.
Это было верно лишь в относительном смысле. До недавнего времени от человека ожидалось, что он понимает код написанного им софта. Но не машинный код и не внутренности компьютера на глубоком уровне. Ты доверяешь, что эти слои работают. В какой-то момент в прошлом нельзя было просто так на это положиться. В какой-то момент в ближайшем будущем ты просто будешь доверять тому, что код софта работает. Вместо этого ты будешь спорить только о спецификации (промпте). Твоё мышление может подняться на один уровень выше в иерархии системы. И у всех тоже. Мы уже делали это раньше, сделаем и снова, и это даже не будет последним разом. Отпусти тревогу и позволь этому случиться.
- Havoc
Я беспокоюсь за следующее поколение.
У нас с тобой есть базовая точка отсчёта. Мозг, который прошёл большую часть фазы развития, пока ещё существовала хоть какая-то единая общепринятая версия правды (пусть даже сомнительная).
Будущим поколениям придётся развиваться в более расколотой реальности. В мире, где не за что держаться. Даже за сомнительный общепринятый нарратив.
- sigalor
Интересно, когда люди поймут, что интеллект направлен не только вовне, а по-настоящему начинается лишь тогда, когда ты смотришь внутрь (радость, удовольствие, травмы, табу, неловкость, насилие, доверие и т. д.). Погуглите слово "интероцепция".
- philbo
Думаю, один из подходов — сознательно выбирать менее мощные инструменты (но всё ещё с поддержкой ИИ). Не обязательно делегировать агентам огромные задачи целиком, но для этого приходится бороться с мейнстримными обвязками, потому что они существуют, чтобы продавать тебе больше токенов. Поставщики моделей не заинтересованы предлагать менее автономные сценарии.
Я писал об этом разочаровании несколько месяцев назад [1], а потом понял: если поставщики моделей этого не сделают, может, стоит попробовать починить это самому. Так что, барабанная дробь для саморекламы, я написал опенсорсную обвязку, которая пытается работать скорее как парное программирование, а не как код-ревью [2].
Как обычно, мой пост "Show HN" [3] утонул как камень, так что, думаю, большинству инженеров это направление, возможно, не очень интересно. Но это возможно — мы не обязаны просто принимать любые инструменты, которые нам подкидывают лаборатории.
[1]: https://philbooth.me/blog/agentic-coding-and-mental-models
- lovich
Элита разрушила доверие.
Никто не заставлял таких людей, как Сэм Альтман, стать патологическими лжецами. Никто не заставлял Маска назвать сервис полностью самоуправляемым, а затем переложить ответственность на пользователя в ту же секунду, когда он решит, что вот-вот произойдёт авария.
Хватит лишать субъектности людей, принимающих решения на высшем уровне и пожинающих все плоды.
Стали бы вы утверждать, что человек, выпивший пять стопок подряд и поехавший домой, не несёт ответственности за аварию, потому что физически ущерб нанесла машина?