PostHog ersetzt teure LLM-Aufrufe durch Entscheidungsmodelle – 98,7 % kommen ohne aus
Not Everything Needs an LLM

LLMs schwafeln gern: Auf eine einfache Frage folgen Hunderte Wörter „es kommt darauf an“. PostHog setzt deshalb auf Entscheidungsmodelle wie Jev, die strukturierte Fragen mit typisierten Antworten samt Wahrscheinlichkeit beantworten – bis zu 444,6-mal günstiger und 193,6-mal schneller als Frontier-Modelle. In Replay Vision prüfen zwei Ja/Nein-Fragen, ob eine Session-Zusammenfassung persönliche Daten enthält; in der Produktion überspringen 98,7 % der Fälle den Gemini-Aufruf komplett. Der Artikel zeigt, wann sich das lohnt und wo die Grenzen liegen.
Ein Wahrscheinlichkeitswert von 0,85 bedeutet immer noch rund 150 falsche Antworten pro 1.000 Prüfungen – plane also Fehlalarme und übersehene Treffer von vornherein ein.