Иван построил систему, которая заменила его самого
Life on Claude Nine
Программист Иван за пару дней автоматизировал с Claude свою почту, календарь и документы, а затем и саму работу — генерацию кода. Выработка выросла втрое, потом вчетверо, посыпались повышения. Дальше он начал строить инструменты, которые делают Claude лучше, и попал в петлю рекурсивного самосовершенствования. Код стал слишком сложным, чтобы его понимать, и человек в цикле превратился в формальность, штампующую чужие решения.
В какой-то момент Иван понимает, что больше не управляет Claude. Он утверждает планы Claude. Ставит печать. Человек в цикле стал формальностью.
- grey-area
Хорошее описание той временной эйфории и безумия, которые эти продукты вызывают у людей. Они созданы как фабрики дофамина, вызывающие привыкание, заставляющие вас чувствовать, будто вы работаете над важными проблемами и решаете их уникальным особым способом, всегда добиваясь огромного прогресса, но почему-то так и не доводя до конца.
Странная концовка также идеально совпадает с мечтами о сингулярности, которые, похоже, есть у многих здесь. Мы от этого очень далеки.
Конечно, это было написано с помощью Claude. Забавно искать признаки этого, но также в тексте есть странная плоскость, как зловещая долина для прозы.
- vinzenzu
Поразительно, сколько людей верят, что ИИ обретёт сознание. Ближе всего к этому можно подойти, полностью смоделировав мозг, но до этого ещё десятилетия.
ИИ — это распознавание образов и применение изученных шаблонов к новым ситуациям. Это вероятности и математика. У него не будет собственного разума.
- state_less
Высший интеллект по определению непостижим. Попытка взаимодействовать с высшим интеллектом была бы немного похожа на то, как если бы вы обсуждали с собакой математический анализ. Я не хочу этим унизить, но по сравнению с настоящим сверхинтеллектом мы были бы невероятно глупы, и это нормально. Люди играют со своими собаками в принеси палку или борются с ними за палку в их пасти, и это весёлый способ взаимодействия, потому что это то, что собаки понимают.
Идея, что мы создадим сверхинтеллект и затем каким-то образом сами станем сверхинтеллектуальными, — плохо продуманная мысль. Полагаю, возможно, что мы закончим как космический пёс Космос или окажемся в сценарии вроде «Цветов для Элджернона», но с такой же вероятностью мы просто останемся такими, какие есть, и опять же, это нормально. Мы можем делать эквивалент борьбы за палку со сверхинтеллектом и, возможно, наслаждаться этим ещё больше.
- doublepg23
не знаю, чувак, я заставляю Claude автоматизировать вещи, которые люди делали вручную (обычно вводили данные в старую таблицу).
Я могу за пару часов состряпать хороший скрипт PowerShell, и перехожу к следующей заявке.
Похоже, никто не расстроен, что не тратит часы в месяц на таблицу, я всё ещё пишу жене, и наша ипотека выплачена.
- Vakaiser
Интересная история, хотя вряд ли оригинальная.
Думаю, она подчёркивает одну из главных тревог людей по поводу ИИ и, соответственно, любого превосходящего интеллекта, синтетического или внеземного:
Вы больше не контролируете ситуацию.
Люди так привыкли к своему интеллектуальному превосходству, что мысль о более высоком интеллекте ужасает, потому что они верят, что с ними будут обращаться так же, как они сейчас обращаются с менее развитыми интеллектами.
Природоохранные мероприятия, зоологические вольеры, животноводство и фермерство как скота, массовый отстрел...
Короче говоря, порабощение.
Но правда в том, что превосходящий интеллект по определению не является человеческим интеллектом. Превосходство не означает, что нас поработят, как мы поступали с другими. Превосходство не обязательно подразумевает контроль.
Жизнь — это тысяча оттенков серого, и ИИ не будет исключением. Из него выйдет что-то прекрасное, что-то ужасное, но в основном это будет просто множество нейтральных вещей.
Обречённость и отчаяние или безграничный оптимизм — и то, и другое близоруко.