TERMy - Schneller Terminal-Assistent ohne LLMs
Show HN: TERMy – A fast terminal assistant that does not use LLMs
TERMy ist ein deterministischer Terminal-Assistent, der ohne LLMs, Embeddings oder maschinelles Lernen auskommt. Er nutzt eine neuartige, regelbasierte NLU-Pipeline, die Anfragen in Millisekunden verarbeitet und dabei nur minimale Ressourcen benötigt – selbst auf einem Raspberry Pi Zero. TERMy kann in Copilot integriert werden und übernimmt einfache Aufgaben wie Dateiverwaltung oder das Aktivieren von virtuellen Umgebungen. Das zugrunde liegende NPC-Forge-Framework ermöglicht es, eigene NPCs zu erstellen und zu teilen. TERMy bietet eine schnelle, kostengünstige und datenschutzfreundliche Alternative zu herkömmlichen KI-Assistenten.
Ich glaube, dass Harnesses wie Copilot und Pi sich auf deterministische NPCs wie TERMy stützen und nur als letzte Instanz auf schwere LLMs zurückgreifen sollten. Weiterhin Rechenleistung und Strom für triviale Aufgaben zu verschwenden, ist teuer und unverantwortlich.