Локальные LLM для разработки: запускаем OpenCode с Ollama и sbx на Mac
Setting up OpenCode with Ollama and sbx on Mac
Автор объясняет, как настроить OpenCode с локальными моделями Ollama в Docker Sandboxes на MacBook Pro M5 с 48 ГБ памяти. Он устанавливает Qwen 3.8 27B и Gemma 4 31B, настраивает sbx-кит и запускает OpenCode, ограничивая контекст до 64K, чтобы избежать переполнения памяти. Подход позволяет безопасно использовать локальные модели для разработки веб-приложений.
Я также предпочитаю запускать свои локальные модели в контейнерах, так как они с такой же лёгкостью могут испортить ваш компьютер нежелательной галлюцинацией.
- manapause
Если у вас на MBP установлены и ollama, и llama.cpp, и вам интересно использовать вашу локальную модель как экономный препроцессор для ваших frontier-моделей, попробуйте https://github.com/Standard-Pentest/kultivait!
"kultivait init --setup" — чтобы оценить железо вашей машины, доступ к frontier cli-tools, скачать модели и создать прокси для ollama, чтобы начать. Отлично работает с opencode!
- hkchad
Друзья не дают друзьям пользоваться Ollama
- darthcircuit
Я использую OMLX на 48gb Mac. Это гораздо более гладкая настройка, чем Ollama, и там есть встроенный подбор размера модели и всё такое в приятном UI. Ещё он из коробки без лишней суеты предварительно настроит и запустит opencode, pi, Hermes, codex и Claude. Я очень доволен.