Apple, Mac을 비공개 AI 추론 서버로 바꾸는 Harbor 앱 개발 중
Apple has new Mac app coming to make running local AI models easy
유출자 Aaron Perris가 Apple이 개발 중인 Mac 앱 Harbor의 존재를 발견했다. Harbor는 Apple silicon에서 오픈 웨이트 모델을 로컬로 실행해 데이터가 기기를 떠나지 않게 하며, Thunderbolt 5로 여러 Mac을 연결해 통합 메모리를 풀링함으로써 단일 기기로는 불가능한 대형 모델과 높은 동시성을 지원한다. 현재 Apple의 Claris 브랜드 아래 비공개 프리뷰 상태다.
Harbor는 당신의 Mac을 비공개 AI 추론 서버로 바꿉니다. Apple silicon에서 오픈 웨이트 모델을 로컬로 실행하므로 데이터는 하드웨어를 떠나지 않고 클라우드에 도달하는 것도 없습니다.
HN 토론
289- brainless
솔직히 대형 모델을 로컬에서 돌리는 것의 가치를 잘 모르겠습니다. 저는 로컬 모델을 정말 좋아하지만, 특정 작업에 한해서 그렇습니다. 이 경우 에이전트가 해야 할 일이 많습니다: 오케스트레이션, 계획과 작업의 대형/소형 모델 분담, 작은 작업으로의 분할, 병합 등등.
30B 미만 파라미터 모델의 LLM이 최적점인 것 같습니다. 저는 차라리 특정 작업(SQL 쿼리, 금융/회계, 백엔드/프론트엔드 개발 등)에 튜닝된 여러 개의 아주 작은 LLM에 집중하고 싶습니다.
더 큰 모델이라면, 10~40달러 정도의 Neuralwatt/Opencode Go나 비슷한 구독이 일반 사용자에게는 우스울 정도로 많은 걸 해줍니다. 우리는 아직 에이전트의 "청소년기"에 있습니다. 작은 LLM과 잘 맞는 패턴이 많습니다. 아니면 대형-소형 LLM 조합으로도요.
제 상황:
저는 작은 16GB M4 Mac Mini를 갖고 있고, LLM(코딩 에이전트)으로 소프트웨어를 만듭니다. 제 제품 몇 개는 LLM을 직접 사용합니다. LLM을 상시로 쓰지만 코드를 직접 읽거나 쓰지는 않습니다. 가끔 아주 작은 Qwen 시리즈(10B 미만 파라미터)를 돌리지만, 20달러짜리 구독 두 개(Claude, Neuralwatt)가 제 상시 에이전트 사용을 모두 처리해 줍니다.
- pen2l
제게 Apple은 이 AI 장의 최종 승자입니다.
증류는 효과가 있습니다. 점점 더 적은 파라미터로 더 나은 성능을 내고, 더 효율적이며, 로컬에서 돌아가는 더 날씬한 모델을 얻을 수 있습니다. Apple은 이를 이해하고 있고, M7 Max/Ultra 칩에서 그 결과를 보게 될 것입니다. 그리고 제 생각에 M7 칩 라인이 소개될 때 이것이 대표 앱 중 하나가 될 겁니다.
이게 Anthropic과 OpenAI가 서둘러 IPO하고, 현금화하고, 개인 투자자에게 빈 봉투를 쥐여주고 떠나려는 이유를 설명해 주는 것 같습니다.
- simonw
"Harbor는 현재 Apple의 Claris 브랜드 아래 비공개 프리뷰 중입니다"
정말 오랜만에 듣는 이름이네요! Claris(1987년 설립 이후 줄곧 Apple의 자회사)는 1998년에 FileMaker로 사명을 바꿨지만, 2019년에 다시 Claris로 리브랜딩한 모양입니다.
지난 10년간은 대부분 FileMaker의 연례 업그레이드만 내놓은 것 같지만, 작년에 MCP를 추가하긴 했습니다: https://www.claris.com/blog/2025/why-mcp-matters-for-claris-...
- jedbrooke
> 규모를 위한 클러스터: "Thunderbolt 5를 지원하는 Mac 컴퓨터 두 대 이상을 연결하면 Harbor가 이들의 통합 메모리를 하나의 추론 리소스로 풀링합니다. 단일 컴퓨터의 용량을 초과하는 모델을 실행하거나, 클러스터 전반에 걸쳐 더 많은 동시 요청을 처리하세요."
이게 LMStudio 같은 기존 솔루션과 차별화되는 핵심 방식인 것 같습니다.
- apparent
이게 바로 제가 지난 몇 년간 원했던 것입니다. 로컬 모델을 가지고 놀아봤고 어느 정도 성공도 했지만, 설정하고 업데이트하는 번거로움을 감당하고 싶지 않습니다.
이 모든 게 쉬웠다면, 기꺼이 새 전용 하드웨어에 투자했을 겁니다. 풀 사이즈 Mac일 수도 있고, RAM을 잔뜩 탑재한 강화된 HomePod 같은 기기일 수도 있습니다. 더 나아가, 되살아난 Matter 지원 Airport로 만들어 주면 더 좋겠네요!
- mgiampapa
이걸 위해 Claris를 다시 불러온 게 정말 마음에 듭니다. Moof!
- gizmodo59
로컬에서 쓸 만한 모델을 정말 갖고 싶지만, 하드웨어를 감당할 수가 없습니다. glm 5.3을 양자화 없이 80-100tps로, 총 1만 달러 미만으로 돌릴 수 있는 마법 같은 방법이 있다면 좋겠지만 지금은 불가능합니다.
- quaddoggy
곰곰이 생각해 보니, Claris가 Apple의 후원 아래 이런 프로젝트를 맡는 게 말이 됩니다. 자회사이기 때문에 "Apple 본체"의 엄격한 일상적 운영 제약을 따르지 않고 이런 것들을 마음대로 만져볼 수 있습니다. AI에 부합하는 무언가로 전환할 수 있다면 잘한 일이죠.