Держите AI подальше от вашего Obsidian: почему сгенерированные заметки — это тупик

Я не понимаю эту штуку со вторым мозгом. Я не веду второй мозг, я просто много читаю и думаю. Однажды я получал степень магистра физики, и когда меня спросили, как добиться устойчивого прогресса, один из профессоров (который, между прочим, публиковался с Полом Дираком) заметил: «Ну, мой секрет в том, что я думаю о физике всё время». Я начал практиковать это в отношении того, что мне интересно... и в результате у меня рождается много идей. 99% из них — мусор. До ИИ разговор с коллегами помогал мне отсеивать мусор и, возможно, давал новый взгляд («вот что удивительного в том, что ты только что сказал!»). Теперь ИИ играет полезную роль в отсеивании мусора для подмножества идей, которые я могу проверить эмпирически — и иногда он действительно даёт мне новый взгляд, но с значительно большим шумом, чем мои коллеги, которые сразу подводили бы меня к тому, что было бы полезно увидеть. Я никогда не чувствовал, что мне нужен второй мозг... потому что, если бы он у меня был, я думаю, я бы хранил эти 99% мусора — вместо этого я просто позволяю биологии выполнять сборку мусора.

По иронии судьбы, это одна из причин, почему один из лучших способов управлять начальством — подталкивать менеджеров к тому, чтобы они придумали вашу идею как свою собственную: они с гораздо большей вероятностью её реализуют и доведут до конца. Конечно, это также очевидно приводит к незаслуженному признанию за то, что идея пришла в голову именно им, что, безусловно, является одной из основных проблем и с ИИ, но всё же забавно наблюдать, как новое поколение менеджеров заново открывает для себя психологию управления.

Я никогда не мог использовать цеттелькастен. Мне нравится вести ежедневные заметки вместо отдельных заметок для разных идей. Так проще. Мой хранилище Obsidian — это гибрид дневника и исследований, и я пытаюсь разделить дневник и исследования, но это нелегко, честно говоря. (Меня мучает непреодолимое желание отмечать, что «я только что съел бутерброд, было вкусно», пока я веду лайв-блог об исследованиях и отладке.) Тем не менее, меня очень позабавило скормить мои ежедневные заметки моей локальной модели. У меня были некоторые записи, больше похожие на дневниковые, которые я бы никому не показал, но было чрезвычайно забавно, когда моя локальная модель взяла пересказ из 3000 слов о том, что я делал за день, и резюмировала это примерно так: «Писатель размышляет о своей работе: он беспокоится о своей производительности. Еда: писатель ел овсянку и бутерброд. Семья: автор размышляет об отсутствии отца в детстве». За эти годы я накопил очень большой корпус письменных работ и надеюсь дообучить модель, используя мой дневник в качестве обучающего набора. Я думаю, это дало бы уморительные результаты. Но всё это остаётся локальным, я иногда вставляю туда свои пароли и не хочу, чтобы они утекли.

Как и автор, я просто держу отдельное хранилище для ИИ. Раньше это был бардак, но с OKF (Open Knowledge Format) всё стало более управляемым и навигируемым (для меня тоже). Считайте хранилище ИИ черновиком, которым пользуются ИИ, а не местом, куда вы вкладываете свои собственные мысли.

Может кто-нибудь просветить меня, зачем использовать Obsidian в повседневной жизни? У меня возникает дюжина идей в день, и ничто не сравнится по простоте с бумажным блокнотом для захвата и чем-то вроде Apple Notes для хранения. Раньше у меня был Notion, но всё это движение «второго мозга» кажется мне... подозрительным?

> Так трудно довести до конца идею, которая не твоя, а просто предложена ИИ

Да! И это потому, что нельзя по-настоящему делегировать владение/авторство ИИ (при нынешнем уровне возможностей). Кодирующие агенты, возможно, были выдрессированы с помощью RL писать код для решения чётко определённых задач, но в данной ситуации ответственность за осмысление неоднозначности и определение проблемы — и даже создание каркаса приемлемого решения с учётом компромиссов — должна лежать на человеке, который берёт на себя ответственность.

Я недавно писал об этом с немного другого ракурса [1], но основная идея та же — именно поэтому так трудно перенять идею, предложенную ИИ. Ещё до написания/реализации ИИ внутренне разрешил неоднозначность с помощью нескольких произвольных решений, которые не соответствуют ни вашей ментальной модели, ни реальной действительности (которую вам нужно потратить время на понимание, чтобы продуктивно интерпретировать).

[1] https://woventhought.substack.com/p/ai-assistants-need-adapt...

Ранее было опубликовано связанное исследование:

> Когда люди думают, что творческую работу сделал ИИ, значимость задачи и прилагаемые усилия снижаются

https://www.brookings.edu/articles/when-people-think-ai-did-...