Как я случайно превратил память LLM в анализ программ

I accidentally turned LLM memory into program analysis

Автор, занимаясь исследованием уязвимостей с помощью LLM-агентов, столкнулся с проблемой: модели теряют нить рассуждений и забывают опровергнутые факты. Он предлагает нестандартное решение — хранить знания в виде фактов и правил в движке Datalog, а не в векторной базе. Это позволяет автоматически инвалидировать устаревшие выводы, отслеживать происхождение заключений и поддерживать актуальное состояние исследования. Инструмент Lemmalog сочетает LLM для извлечения фактов из неструктурированных данных и детерминированную логику для вывода, что делает расследование более надёжным.