Apple prepara Harbor, la app que convierte tu Mac en un servidor privado de IA
Apple has new Mac app coming to make running local AI models easy
El filtrador Aaron Perris encontró evidencia de Harbor, una app de Apple bajo la marca Claris que permite ejecutar modelos de pesos abiertos localmente en Apple silicon sin que los datos salgan del hardware. Con Thunderbolt 5, varios Mac pueden agruparse para sumar memoria unificada y correr modelos más grandes o atender más peticiones. La configuración promete minutos, sin línea de comandos, y la app gestiona la descarga de modelos. Por ahora está en vista previa privada.
Harbor convierte tu Mac en un servidor privado de inferencia de IA. Ejecuta modelos de pesos abiertos localmente en Apple silicon: tus datos nunca salen de tu hardware y nada llega a la nube.
- brainless
Realmente no entiendo el valor de ejecutar modelos grandes en local. Me encantan los modelos locales, pero para tareas específicas. Los agentes necesitan hacer mucho trabajo en este caso: orquestación, división entre modelo grande o pequeño para planificación y trabajo, división en tareas pequeñas, fusión, etc.
Los LLM con modelos de <30B parámetros parecen el punto óptimo. Preferiría centrarme en múltiples LLM diminutos ajustados para tareas específicas (consultas SQL, finanzas/contabilidad, desarrollo backend/frontend, etc.).
Para modelos más grandes, una suscripción de Neuralwatt/Opencode Go de unos $10-40 o cualquier suscripción similar rinde tanto para el usuario medio que es ridículo. Todavía estamos en la era "juvenil" de los agentes. Hay muchos patrones que funcionan bien con LLM más pequeños. O con una combinación de LLM grande-pequeño.
Mi contexto:
Tengo el diminuto Mac Mini M4 de 16GB y uso LLM (agentes de codificación) para construir software y algunos de mis productos usan LLM directamente. Usuario a tiempo completo de LLM, no leo ni escribo código manualmente. A veces ejecuto la pequeña serie Qwen (<10B parámetros) pero un par de suscripciones de $20 (Claude, Neuralwatt) se encargan de mi uso de agentes a tiempo completo.
- pen2l
Apple, para mí, es el ganador al final de este capítulo de la IA.
La destilación funciona: podemos obtener modelos más ligeros, con mejor rendimiento con cada vez menos parámetros, más eficientes, ejecutándose en local. Apple lo entiende y veremos el resultado con los chips M7 Max/ultra y creo que esta será una de las aplicaciones titulares cuando se presenten la línea de chips M7.
Supongo que eso explica la prisa que tienen Anthropic y OpenAI por salir a bolsa, cobrar y dejar al inversor minorista con la bolsa.
- simonw
"Harbor está actualmente en una vista previa privada bajo la marca Claris de Apple"
¡Hay un nombre que no había oído en mucho tiempo! Claris (siempre una subsidiaria de Apple, desde su fundación en 1987) se renombró a FileMaker en 1998, pero aparentemente volvieron a la marca Claris en 2019.
Parece que en la última década en su mayoría solo han lanzado actualizaciones anuales de FileMaker, pero el año pasado le añadieron MCP: https://www.claris.com/blog/2025/why-mcp-matters-for-claris-...
- jedbrooke
> Clúster para escalar: "Conecta dos o más computadoras Mac compatibles con Thunderbolt 5 y Harbor agrupa su memoria unificada en un único recurso de inferencia. Ejecuta modelos que superen la capacidad de cualquier computadora individual, o atiende más solicitudes concurrentes en tu clúster."
Esta parece ser la principal forma en que se diferenciaría de soluciones existentes como LMStudio, etc.
- apparent
Esto es lo que he querido durante los últimos años. He experimentado con modelos locales y he tenido algo de éxito, pero no quiero lidiar con la molestia de configurar, actualizar, etc.
Si todo esto fuera fácil, invertiría felizmente en nuevo hardware dedicado para ejecutarlo. Podría ser una Mac completa o podría ser un dispositivo tipo HomePod mejorado, cargado de RAM. Mejor aún, ¡que sea un Airport revitalizado con soporte para Matter!
- mgiampapa
Me encanta que traigan de vuelta a Claris para esto. ¡Moof!
- gizmodo59
Realmente quiero modelos capaces en local, pero me es imposible costear el hardware. Si hubiera una forma mágica de ejecutar glm 5.3 sin cuantización a 80-100 tps con un gasto total de menos de 10K, estaría feliz, pero eso es imposible ahora.
- quaddoggy
Después de pensarlo, tiene sentido que Claris aborde un proyecto así bajo el auspicio de Apple. Son una subsidiaria, así que pueden trastear con estas cosas sin tener que adherirse a las draconianas restricciones operativas diarias de "Apple propiamente dicha". Bien por ellos si pueden pivotar hacia algo que se adapte a la IA.