Tiiny: самый маленький edge AI-девайс для локальных LLM
The smallest edge AI device for local LLMs
Tiiny — это компактное устройство, которое позволяет запускать большие языковые модели локально, без облака. Оно позиционируется как самое маленькое edge AI-устройство для LLM. Продажи начнутся в сентябре, сейчас открыт лист ожидания со скидкой. Tiiny поддерживает запуск LLM, AI-агентов, имеет SDK и обеспечивает приватность данных.
Принесите свой собственный AI домой.
- ByteOfWood
Вся эта страница (кроме подвала) сделана из изображений. Есть ли причина, по которой они так делают? Они создают эти изображения вручную или они как-то генерируются? Просто кажется необычным выбором.
- vkaku
Расскажите, как долго он может работать без нагрева. Это хороший шаг в правильном направлении. Надёжность оборудования и тестирование всё ещё должны пройти долгий путь.
- tristanj
Я не понимаю, в чём здесь ценность.
Это устройство продаётся за 1999 долларов. На странице продукта на их сайте они показывают устройство, подключённое к MacBook Pro.
MacBook Pro уже отлично умеет запускать локальные LLM, так почему бы кому-то просто не потратить эти 1999 долларов на улучшение характеристик MacBook (M5 Max с дополнительной памятью) вместо этого?
Или почему бы не купить Mac Mini с 48 ГБ ОЗУ за 2300 долларов?