Apple представляет Mac Studio на M5 Max и M5 Ultra — до 4,3 раза быстрее для ИИ на устройстве
Apple Introduces New Mac Studio with M5 Max and M5 Ultra
Apple анонсировала новый Mac Studio с чипами M5 Max и M5 Ultra, которые обеспечивают до 4,3 раза более высокую производительность ИИ, до 1,8 раза более быструю графику и до 512 ГБ унифицированной памяти. Благодаря Neural Accelerators в каждом ядре GPU и поддержке Thunderbolt 5 с RDMA, несколько Mac Studio можно объединять в кластер для распределённого ИИ-инференса, что ускоряет работу в 3 раза. Новинка поддерживает Wi-Fi 7 и Bluetooth 6, а также позволяет запускать большие языковые модели локально. Предзаказ открыт, поставки начнутся 22 сентября.
«Mac Studio — это идеальный настольный компьютер для ИИ на устройстве и самых требовательных профессиональных задач, и сегодня мы расширяем его возможности ещё дальше», — заявил Джони Сруджи, главный аппаратный директор Apple.
- joshstrange
Из-за безумных цен (не то чтобы цены Apple и раньше не были безумными до дефицита RAM и SSD) я не вхожу в целевую аудиторию, но мне интересно, не должен ли мой следующий компьютер быть Mac Studio вместо MacBook Pro, который всю жизнь живёт в доке. Возможно, лучше просто использовать Studio и Neo для тех редких случаев, когда мне действительно нужны удалённые возможности.
- osmukka
Читать этот пресс-релиз было почти физически больно из-за того, как Apple любит использовать фразу «до». В общей сложности она встречается 46 раз.
- blints
10 тысяч за 256 ГБ памяти. Вероятно, вдвое больше за 512 ГБ, но это будет доступно или окончательно определено только в октябре. Thunderbolt 5 — это самый быстрый внешний интерфейс ввода-вывода с пропускной способностью 120 Гбит/с. Заявленная максимальная пропускная способность внутренней памяти — 1,2 ТБ/с. Не совсем «защита от будущего» для моделей с параметрами более 1 трлн, но хорошо для конкретных моделей с меньшим числом параметров или если можно положиться на конвейерный параллелизм и запустить кластер.
- doctoboggan
> Самый мощный Mac от Apple поднимает планку для локального ИИ
Вау, «локальный ИИ» упоминается в подзаголовке над сгибом — это действительно здорово, что Apple делает ставку на этот сценарий использования, и я думаю, что это определённо окупится для них в будущем. Будем надеяться, что Apple сможет приложить инженерные усилия, чтобы поставлять одну из передовых открытых моделей с весами, включённую и оптимизированную именно для этой машины.
- OneWhereWhy
Больше всего меня интригует вот что:
«Производительность хранилища до двух раз выше благодаря архитектуре SSD нового поколения на базе PCIe Gen 6...»
Это первый персональный компьютер, который я заметил с хранилищем PCIe Gen 6. До сих пор я видел только корпоративные SSD с PCIe Gen 6. SSD с Gen 5 в потребительских устройствах уже имеют высокие температуры и термотроттлинг, поэтому я беспокоюсь о том, как будет работать реализация Apple (я знаю, что они больше не используют готовые SSD, но думаю, что температуры всё равно будут проблемой).
- GodelNumbering
Пропускная способность 1,2 ТБ/с у M5 Ultra достигается за счёт двух кристаллов M5 Max (каждый по 614 ГБ/с), соединённых межкристальной тканью с пропускной способностью 4,4 ТБ/с.
Для неквантованного Deepseek V4 flash на Ultra я бы оценил примерно 1000+ токенов в секунду на префилле и 50+ токенов в секунду на генерации. Это вполне пригодно для использования и почти на уровне облака.
Они упоминают «добавляет нейронные ускорители GPU», которые, если их можно использовать для нагрузок LLM, вероятно, сильно помогут с префиллом.
- vadansky
Извините за лень, но есть ли примерное разбиение вроде «Вы получаете уровень Sonnet для M5 и Opus для M5 Pro и т.д.», или это всё ещё предположения? Или проще: получаете ли вы уровень Opus для M5 Max с 256 ГБ?
- meerita
Mac Studio с M5 Max начинается от 2499 долларов США и 2299 долларов США для образования. Дополнительные опции конфигурации доступны на apple.com/mac-studio. Mac Studio с M5 Ultra начинается от 5499 долларов США и 5099 долларов США.
Я в Европе, и Mac Studio M5 Ultra с GPU 64 ядра и 96 ГБ RAM стоит до 6649,00 €. Ой.
- alberth
Похоже, что предположения о том, что Apple увеличит максимальный объём RAM базового чипа с 32 ГБ до 48 ГБ, оказались неверными.
Apple также представила сегодня базовый M6 с лимитом RAM 32 ГБ, что позволяет предположить, что 512 ГБ могут оставаться максимумом для чипов Ultra ещё некоторое время. Поскольку эти чипы Ultra объединяют 16 базовых чипов:
32 ГБ × 16 = 512 ГБ
- larodi
Невероятно, что LMStudio, открытый и постоянно развивающийся (нестабильный) проект, упоминается как эталон скорости.