Tokenless: מנוע החלפת מודלים אוטומטי שחוסך חצי מהוצאות ה-LLM

Launch HN: Tokenless (YC S26) – Automatic model switching to save money

אנחנו מציגים את Tokenless, פתרון המאפשר החלפת מודלים אוטומטית כדי להפחית את חשבון ה-inference בחצי. המערכת שלנו משלבת בקשות למספר מודלים בו-זמנית, בוחרת את המודל המתאים ביותר בזמן אמת ומבטלת את השאר, כך שאתם משלמים רק על מה שצריך. עם תאימות מלאה ל-API של OpenAI ו-Anthropic, ניתן לשלב את הפתרון בקלות ולשמור על איכות גבוהה תוך צמצום עלויות משמעותי.