Claude Code с Ollama и локальной моделью: что работает, что нет

Claude Code можно запустить на локальной модели через Ollama, и у Ollama для этого есть отдельная страница документации. Мы эту связку у себя не гоняли, поэтому ниже только то, что подтверждают тексты Anthropic и Ollama от 10 ноября 2026, и то, что нужно проверить руками. Хватит ли выбранной модели для вашего репозитория, скажет только собственный прогон. Порядок такого прогона мы даём в шаге 6.

Что говорят документы

Источники по строкам: страница Ollama про совместимость с Anthropic API, страница Ollama про Claude Code и документация Claude Code по шлюзам.

Последняя строка меняет смысл затеи. Ollama в тексте Anthropic не названа, но под это заявление по смыслу подпадает любая связка, где за ANTHROPIC_BASE_URL отвечает не Claude. Это наше прочтение, а не цитата. На практике: если очередное обновление Claude Code сломает что-то на локальной модели, исправления от Anthropic ждать не стоит. В документации Anthropic по шлюзам сказано и другое: Claude Code добавляет возможности с каждым релизом, а шлюз, который их не пересылает, ломает соответствующие функции.

Запуск пошагово

Шаг 1. Установите Claude Code

Команда установки из документации Anthropic для macOS, Linux и WSL (подробнее в руководстве по настройке Claude Code):

curl -fsSL https://claude.ai/install.sh | bash

В Windows работает irm https://claude.ai/install.ps1 | iex. Проверка: claude --version.

Шаг 2. Поставьте Ollama и скачайте модель

Установщик лежит на ollama.com. Скачайте модель, на которой документация показывает пример:

ollama pull qwen3.5

Без тега скачается версия latest. На странице модели в библиотеке Ollama она совпадает с 9b. У семейства стоят метки vision, tools и thinking, а размеры скачивания такие:

Это размер весов. Кэш контекста добавляется сверху, о нём ниже.

Шаг 3. Поднимите контекст

Ollama выбирает длину контекста по видеопамяти:

Для Claude Code документация просит 64k и выше. Запустите сервер так:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

В приложении Ollama то же самое делает ползунок длины контекста в настройках. Проверьте результат командой ollama ps: в колонке CONTEXT должно стоять нужное число, а колонка PROCESSOR покажет, целиком ли модель на GPU или часть ушла на процессор.

Шаг 4. Запустите Claude Code на модели

Вариант первый, одна команда из документации Ollama:

ollama launch claude --model qwen3.5

Что именно эта команда пишет в настройки Claude Code, документация не объясняет, так что результат сверяйте в /status.

Вариант второй, вручную. macOS и Linux:

export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_API_KEY=""
export ANTHROPIC_BASE_URL=http://localhost:11434
claude --model qwen3.5

Windows, PowerShell:

$env:ANTHROPIC_AUTH_TOKEN = "ollama"
$env:ANTHROPIC_API_KEY = ""
$env:ANTHROPIC_BASE_URL = "http://localhost:11434"
claude --model qwen3.5

Шаг 5. Проверьте, куда уходят запросы

Откройте /status. Строка Anthropic base URL должна показывать http://localhost:11434. Нет строки, значит переменная до сессии не дошла.

Две ловушки из документации Claude Code. Если одна переменная задана и в оболочке, и в блоке env файла settings.json, действует значение из файла. Так что шлюз, прописанный в ~/.claude/settings.json раньше, перекроет ваш экспорт, и запросы уйдут туда: на время опытов уберите блок env. Вторая ловушка: Claude Code просит войти, если переменные лежат только в проектных .claude/settings.json или .claude/settings.local.json, потому что они применяются после мастера первого запуска. Раньше он читает экспорт в оболочке, ~/.claude/settings.json и управляемые настройки.

Шаг 6. Дайте три задачи

Возьмите свой репозиторий. Первая задача: объяснить незнакомый модуль. Вторая: починить падающий тест. Третья: внести правку сразу в два файла. Смотрите на три числа: прошёл ли тест с первого раза, сколько итераций понадобилось, сколько времени ушло. Если на второй задаче модель ходит по кругу, дальше пробовать нет смысла.

Что может не работать

Поиск в сети. Ollama пишет, что hosted WebSearch поддержан не полностью, так что веб-инструменты проверяйте отдельно.

Кэш и подсчёт токенов. Ollama не поддерживает cache_control и count_tokens. Как Claude Code ведёт себя без второго, мы не проверяли.

Фоновый трафик. Claude Code ходит к Anthropic за обновлениями и телеметрией. Переменная CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 это отключает ценой автообновлений. Проверка безопасности WebFetch всё равно обращается к api.anthropic.com, её выключает настройка skipWebFetchPreflight: true. Полностью без сети мы запуск не пробовали, а установка сама требует интернета.

Контекст. Разрыв между рекомендацией и умолчанием большой: 64k против 4k. Если шаг 3 пропущен, результаты прогона говорят о настройке, а не о модели.

Модели. Документация Ollama называет примеры на qwen3.5, gemma4:cloud, glm-5.3-flash и kimi-k2.7-code:cloud. Другие модели, включая Qwen3.8, в этих текстах не упомянуты.

Как понять, что настройка или модель не тянет

Четыре признака, и все проверяются без замеров.

В ollama ps колонка PROCESSOR показывает, где размещена модель: в видеопамяти, в оперативной или частично там и там. Если там не «100% GPU», возможная причина в том, что модель не поместилась в видеопамять целиком. Тогда по правилу из нашей статьи про Qwen она заметно замедлится из-за выгрузки. Проверьте и другие причины: GPU могли отключить принудительно (например, CUDA_VISIBLE_DEVICES=-1) или Ollama его не обнаружил, как бывает на Linux после выхода из сна.

В колонке CONTEXT стоит не то число, которое вы задали. Возможные причины: сервер запущен без переменной или уже работает приложение Ollama со своим значением.

У модели в библиотеке нет метки tools. Ollama требует поддержки инструментов, и по её странице чат и правки файлов работают именно с совместимыми моделями.

На второй задаче из шага 6 агент ходит по кругу: читает один и тот же файл, повторяет одну правку, снова запускает тест. Это сигнал остановиться и сменить модель или размер.

Сколько памяти нужно

Формулу и цифры по Qwen3.8 27B мы разобрали в статье «Qwen 3.8 27B локально»: веса Q4_K_M занимают около 16,5 ГБ, кэш контекста на 131 072 токенов в FP16 около 8,6 ГБ. Значит, на 64k кэш займёт около 4,3 ГБ, а с рабочими буферами выйдет 22-23 ГБ. На видеокарте или Mac с 24 ГБ это впритык, а на Mac часть памяти ещё занимает система. Расчёт наш, по цифрам той статьи, а Claude Code на этой модели мы не запускали.

Если памяти меньше, берите 9b из таблицы выше или модель поменьше. Что получится на таком размере в агентной работе, мы не знаем. Отвечает на это шаг 6.

Честный вердикт

Работает ли связка? По документации Ollama да, и описана она официально. Поддерживает ли её Anthropic? Нет. Хорошо ли пойдёт на вашем железе? Не знаем, и гадать по размеру модели не будем.

Локальный запуск оправдан в четырёх случаях: код нельзя отправлять наружу, нужна работа без сети, железо уже стоит на столе, хочется потрогать агента без оплаты токенов. Платить придётся электричеством и временем. Если нужен результат именно уровня Claude или предсказуемость на каждом обновлении, локальный путь не гарантирует ни того, ни другого.

Другой агент тоже выбор. В той же статье про Qwen 3.8 приведена команда ollama launch opencode --model qwen3.8, а установку OpenCode разбирает статья «OpenCode: установка и модели». Сравнение остальных инструментов есть в обзоре альтернатив Claude Code.

Когда локально не тянет

Если вы упёрлись в память или качество, облачные модели стоят дешевле, чем кажется. Ниже цены публичного каталога Claudexia (канал Premium) на 10 ноября 2026 за 1 млн токенов и стоимость условной задачи: 1 млн токенов на входе и 200 тысяч на выходе, без кэша. Это допущение для сравнения, а не замер.

Приватности локального запуска здесь нет: запросы уходят стороннему провайдеру, поэтому не отправляйте туда то, что нельзя показывать постороннему. Бесплатная модель одна, deepseek-v4.1-flash-1017-free, и это не Claude. 29 октября их было три, и список может измениться снова, так что рабочий процесс на нём строить нельзя. Как подключить к Claude Code бесплатную или дешёвую модель, показано в статье «Claude Code бесплатно», а про ключи и цены Claude читайте в разборе бесплатного Claude API.

Блок ~/.claude/settings.json для бесплатной модели выглядит так. Адрес пишется без /v1, а все строки ANTHROPIC_DEFAULT_* нужны, иначе Claude Code запросит собственные модели:

{
  "env": {
    "ANTHROPIC_BASE_URL": "https://api.claudexia.tech",
    "ANTHROPIC_AUTH_TOKEN": "sk_cdx_YOUR_KEY",
    "ANTHROPIC_MODEL": "deepseek-v4.1-flash-1017-free",
    "ANTHROPIC_DEFAULT_OPUS_MODEL": "deepseek-v4.1-flash-1017-free",
    "ANTHROPIC_DEFAULT_SONNET_MODEL": "deepseek-v4.1-flash-1017-free",
    "ANTHROPIC_DEFAULT_HAIKU_MODEL": "deepseek-v4.1-flash-1017-free",
    "CLAUDE_CODE_SUBAGENT_MODEL": "deepseek-v4.1-flash-1017-free"
  }
}

Полный разбор переменных лежит в гайде по Claude Code. Ключ создаётся после регистрации. Прописанный блок перекрывает экспорт в оболочке, это те же правила, что в шаге 5, так что для опытов с Ollama его придётся убрать.

FAQ

Можно ли запустить Claude Code локально?

По документации Ollama да: Ollama принимает запросы в формате Anthropic Messages, а Claude Code направляется на http://localhost:11434. Anthropic такой режим не поддерживает, а качество на вашем железе мы не измеряли.

Как подключить Claude Code к Ollama?

Команда ollama launch claude --model qwen3.5 или три переменные: ANTHROPIC_AUTH_TOKEN=ollama, пустой ANTHROPIC_API_KEY и ANTHROPIC_BASE_URL=http://localhost:11434, затем claude --model qwen3.5. Результат проверьте в /status. Шаги выше.

Работает ли Claude Code без интернета с локальной моделью?

Сами запросы к модели пойдут на локальный адрес. Установка Claude Code и Ollama требует сети, а фоновый трафик Claude Code к Anthropic отключается переменной CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1. Полностью автономный запуск мы не проверяли.

Какую локальную модель выбрать для Claude Code?

В документации Ollama примеры на qwen3.5. Ориентиров два: Ollama просит для локальных моделей контекст от 64k, а модель должна уметь вызывать инструменты (у семейства qwen3.5 в библиотеке стоит метка tools). Сравнивать модели по качеству мы не пробовали, возьмите три задачи из шага 6 и прогоните по очереди 9b и 27b.

Поддерживает ли Anthropic Claude Code с не-Claude моделями?

Нет. В документации по шлюзам написано, что Anthropic не поддерживает направление Claude Code на не-Claude модели через шлюзы. Работать связка может, но без обязательств со стороны Anthropic.

Что лучше: Ollama или бесплатная облачная модель?

Зависит от задачи. Ollama даёт приватность и работу без оплаты токенов, но упирается в вашу память и контекст. Облачная бесплатная модель не требует железа, зато запросы уходят стороннему провайдеру, а список бесплатных моделей меняется. Разбор запуска Claude Code на таких моделях лежит в статье про бесплатный Claude Code.