TERMy - Schneller Terminal-Assistent ohne LLMs
Show HN: TERMy – A fast terminal assistant that does not use LLMs
TERMy ist ein deterministischer Terminal-Assistent, der ohne LLMs, Embeddings oder maschinelles Lernen auskommt. Er nutzt eine neuartige, regelbasierte NLU-Pipeline, die Anfragen in Millisekunden verarbeitet und dabei nur minimale Ressourcen benötigt – selbst auf einem Raspberry Pi Zero. TERMy kann in Copilot integriert werden und übernimmt einfache Aufgaben wie Dateiverwaltung oder das Aktivieren von virtuellen Umgebungen. Das zugrunde liegende NPC-Forge-Framework ermöglicht es, eigene NPCs zu erstellen und zu teilen. TERMy bietet eine schnelle, kostengünstige und datenschutzfreundliche Alternative zu herkömmlichen KI-Assistenten.
Ich glaube, dass Harnesses wie Copilot und Pi sich auf deterministische NPCs wie TERMy stützen und nur als letzte Instanz auf schwere LLMs zurückgreifen sollten. Weiterhin Rechenleistung und Strom für triviale Aufgaben zu verschwenden, ist teuer und unverantwortlich.
- Alpha3031
Sehr interessantes Projekt, ich mag es. Wollte nur klarstellen: Die Stimmungsanalyse ist doch nur die Anzahl der gefilterten Wörter und wird verwendet, um Dinge mit dem Emoji zu taggen? Ich hatte zunächst erwartet, dass sie Teil des eigentlichen Befehlsaufbauprozesses ist (auch wenn ich nicht herausfinden konnte, wie das relevant sein sollte), angesichts der Art, wie sie aufgeführt wurde.
- publlus_enigma
Das ist ein cooles Projekt; ich finde es wunderbar, dass traditionelle NLP-Methoden verwendet werden, anstatt direkt zu einem LLM zu greifen.
Ein großer Vorteil, kein lokales LLM zu verwenden, ist der erheblich vereinfachte Abhängigkeitsstapel.
- nateb2022
- zem
Was ich in dieser Richtung gerne sehen würde, ist etwas, das beantworten kann: "Welche Pakete habe ich installiert, um Aufgabe $foo zu erledigen"; ich installiere ständig Dinge, die ich für eine Sache benutze und dann vergesse, wenn ich dieselbe Aufgabe Monate oder Jahre später erledigen muss.
- vegnus
Wenn du Termy zum Programmieren bringen könntest, wärst du ein reicher Mann.