Как встроить булеву схему в обученную нейросеть
Embedding boolean circuits in a neural network
Автор размышляет, можно ли добавить к уже обученной нейросети булев контур. Задача распадается на две: представить логические вентили нейронами (AND, OR, NOT через взвешенную сумму и порог) и подключить схему к сети с помощью «проб» (probe), превращающих вещественные сигналы в булевы, и «стимулов» (stim), которые добавляют знаковое смещение вдоль направления нейрона. Всё это напоминает Neuralink для LLM.
Сигналы в обученной нейросети не обязательно представляют собой чистые 0 или 1 — в зависимости от того, откуда их снимать. Поэтому нужны входное и выходное отображения: из нейросети в булеву схему и обратно в нейросеть. Что-то вроде Neuralink, но для LLM.