Tiiny AI: el dispositivo edge más pequeño para ejecutar LLMs localmente

The smallest edge AI device for local LLMs

Tiiny AI presenta un dispositivo edge de tamaño mínimo capaz de ejecutar modelos de lenguaje grandes (LLMs) localmente, sin depender de la nube. El dispositivo, que se lanzará en septiembre, ofrece privacidad total, memoria a largo plazo y soporte para agentes de IA. Incluye un SDK para desarrolladores y utiliza el motor de inferencia PowerInfer para optimizar el rendimiento. Los usuarios pueden unirse a la lista de espera para obtener un descuento de lanzamiento.