Perplexity запускает Portable Computer: локальный ИИ на NVIDIA DGX Spark
Perplexity Portable Computer
Perplexity представила Portable Computer — версию Perplexity Computer, которая полностью работает на локальном устройстве. Разработанный совместно с NVIDIA, он доступен на NVIDIA DGX Spark и скоро появится на ПК с RTX GPU. Пользователи могут анализировать данные, синтезировать файлы и выполнять сложные рабочие процессы, не расходуя кредиты. Локальная модель может эскалировать задачи в облако для доступа к веб-поиску и продвинутым моделям, но конфиденциальные данные остаются на устройстве. Поддерживаются Google Drive, Gmail, Slack и GitHub, а также режим диктовки с локальным распознаванием речи.
Каждый цикл работы чипа и каждый выпуск модели продвигает это дальше; запуск ИИ на персональных компьютерах станет гораздо более значимой частью того, как выполняется работа.
- hmokiguess
На кого это рассчитано, я сомневаюсь: это смесь человека, достаточно технически подкованного, чтобы вложиться в DGX Spark и знать об открытых весах самодостаточных моделей, но при этом ему предлагают нечто вроде подписочного пакета «мы сделаем это за вас» — существует ли вообще такой потребитель? Мне кажется, если бы у меня был DGX Spark, я бы просто собрал этот оркестратор сам или использовал какой-нибудь опенсорсный инструментарий, но уж точно не стал бы покупать подписку на это у них.
- jazzpush2
Дайте уже Perplexity умереть.
- nycdatasci
Чтобы прояснить путаницу с названием: «Computer» — это их облачный мультимодельный хаб/маршрутизатор. «Portable Computer» позволяет запускать этот хаб локально. Вам нужно самим приобрести DGX Spark. Непонятно, почему это привязано именно к Spark. Разве мы не должны иметь возможность запускать это на любой системе, способной выполнять локальный инференс?