Перейти к содержимому
Команда ClaudexiaОбновлено ИНСТРУКЦИЯ

Ollama: установка на Windows, macOS, Linux и выбор модели

Как установить Ollama и запустить модель: команды для Windows, macOS и Linux, где лежат модели, сколько нужно памяти, адрес локального API и OpenAI-формат.

Ollama ставят со страницы ollama.com/download. На macOS и Windows это установщик, на Linux скрипт в одну строку. Потом ollama run gemma4:e2b скачивает модель и открывает чат, а программы обращаются к серверу по адресу http://localhost:11434. Дальше по порядку: установка и требования, команды, папки с моделями, выбор модели под память, локальный API и границы локальных моделей. Команды и числа здесь из документации Ollama и карточек каталога, которые мы открыли 17 ноября 2026.

Откуда скачивать

Официальных адресов три: ollama.com для сайта и каталога, docs.ollama.com для документации и github.com/ollama/ollama для исходников. В README репозитория стоят те же команды установки, что на странице загрузки, а ссылки на файлы Ollama.dmg и OllamaSetup.exe ведут на ollama.com/download. Берите установщик только оттуда. Скрипт из чата, рекламы или со стороннего сайта получит на вашей машине те права, которые вы ему дали, так что чужие команды в терминал не вставляйте.

Установка на macOS, Windows и Linux

СистемаКак ставитьТребования по документации
macOSOllama.dmg или скрипт install.shmacOS Sonoma (14) и новее; чипы Apple M (процессор и GPU) или x86 (только процессор)
WindowsOllamaSetup.exe или скрипт install.ps1Windows 10 22H2 и новее, Home или Pro; драйвер NVIDIA 551.61 и новее для карт NVIDIA; для AMD драйвер с ROCm v7 или Vulkan
Linuxскрипт install.sh или ручная установка архиваверсию дистрибутива документация не называет; NVIDIA с compute capability 5.0 и выше и драйвером 550 и новее (для compute capability от 5.0 до 6.2 нужен драйвер 570 и новее), AMD через ROCm v7

Команды из README и со страницы загрузки. macOS и Linux:

curl -fsSL https://ollama.com/install.sh | sh

Windows, PowerShell:

irm https://ollama.com/install.ps1 | iex

Если не хочется запускать скрипт вслепую, скачайте его в файл, прочитайте и только потом запустите: curl -fsSL https://ollama.com/install.sh -o install.sh, затем sh install.sh.

На macOS документация считает основным способом образ Ollama.dmg: перетащить приложение в Applications. При первом запуске приложение проверит, есть ли команда ollama в PATH, и спросит разрешение создать ссылку в /usr/local/bin. Скрипт делает то же самое сам: кладёт приложение в /Applications, ссылку в /usr/local/bin и при необходимости просит пароль.

На Windows администратор не нужен: установка идёт в домашний каталог пользователя. Под сам Ollama документация просит не меньше 4 ГБ свободного места, а модели добавляют сверху десятки и сотни гигабайт. Другой каталог задаёт ключ установщика: OllamaSetup.exe /DIR="d:\some\location". После установки Ollama работает в фоне, а команда ollama доступна в cmd, PowerShell и других терминалах.

На Linux скрипту нужен sudo. Из текста самого install.sh видно, что бинарники он ставит всегда, а пользователя и группу ollama и службу systemd создаёт, только если в системе есть systemctl. Службу он включает и запускает, когда systemctl is-system-running отвечает running или degraded. Иначе скрипт предупреждает, что systemd не работает (так бывает, например, в WSL2 без systemd), и сервер запускают вручную командой ollama serve. Ручной вариант без скрипта описан на странице документации про Linux: архив распаковывается в /usr, для AMD добавляется отдельный архив с ROCm, а службу создают вручную.

Проверка после установки. Версию показывает ollama -v, а сервер слушает 127.0.0.1:11434: этот адрес называют FAQ Ollama и скрипт установки на Linux.

Docker

Официальный образ называется ollama/ollama. Вариант без GPU и запуск первой модели внутри контейнера:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run llama3.2

Команда взята из документации Ollama, и порт в ней публикуется без адреса. По документации Docker, так порт открывается на всех адресах хоста, то есть API доступен и из сети, а Ollama ключ не проверяет. Чтобы оставить доступ только с этой машины, привяжите порт к 127.0.0.1: -p 127.0.0.1:11434:11434. Так порт доступен только хосту в Docker Engine 28.0.0 и новее: по предупреждению в документации Docker, в более старых выпусках хосты из того же сегмента L2 (например, подключённые к одному коммутатору) могут достучаться до портов, опубликованных на localhost. Версию сервера показывает docker version --format '{{.Server.Version}}', на старой версии обновите Docker.

Ускорение на видеокарте NVIDIA требует NVIDIA Container Toolkit и ключа --gpus=all. В Docker Desktop на macOS GPU недоступен: в документации сказано, что проброса видеокарты там нет.

Обновление

macOS и Windows скачивают обновления сами. В меню или в трее появляется пункт «Restart to update». На Linux команду установки запускают ещё раз. Нужную версию ставят через переменную OLLAMA_VERSION: curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh.

Первые команды: run, pull, ls, ps

Первый запуск проще всего сделать так, как в быстром старте документации:

ollama run gemma4:e2b

Ollama скачает модель и откроет чат прямо в терминале, выйти можно командой /bye. По быстрому старту скачивание занимает около 7,2 ГБ, а рекомендуемый объём памяти для этой модели 8 ГБ видеопамяти или общей памяти на Mac. Многострочный ввод оборачивают в тройные кавычки """. Картинку мультимодальной модели передают путём в самом запросе: ollama run gemma4 "What's in this image? /Users/name/Desktop/smile.png".

КомандаЧто делает
ollama run имяскачивает модель, если её нет, и открывает чат
ollama pull имятолько скачивает модель
ollama lsпоказывает скачанные модели
ollama psпоказывает модели, загруженные в память, и колонки PROCESSOR и CONTEXT
ollama stop имявыгружает модель из памяти
ollama rm имяудаляет модель с диска
ollama cp источник новое_имяделает копию модели под другим именем
ollama show --modelfile имяпечатает Modelfile модели
ollama create имя -f Modelfileсобирает свою модель под указанным именем по файлу Modelfile
ollama serveзапускает сервер; список переменных окружения даёт ollama serve --help
ollama launchнастраивает и запускает внешние программы: Claude Code, OpenCode, Codex, VS Code, Droid
ollama signin и ollama signoutвход в аккаунт Ollama и выход, нужны для облачных моделей

Модель после ответа остаётся в памяти пять минут. Это значение по умолчанию, ollama stop выгружает её сразу, а переменная OLLAMA_KEEP_ALIVE меняет срок для всех моделей. Через API то же задаёт параметр keep_alive.

Где Ollama хранит модели

СистемаПапка с моделями
macOS~/.ollama/models
Linux/usr/share/ollama/.ollama/models
WindowsC:\Users\имя_пользователя\.ollama\models

Нужен другой диск: задайте переменную OLLAMA_MODELS с путём к новой папке. Где её задавать, зависит от системы:

  • macOS, если Ollama запущена как приложение: launchctl setenv OLLAMA_MODELS "/Volumes/Disk/models", затем перезапуск приложения.
  • Linux, если Ollama работает как служба: systemctl edit ollama.service, строка Environment="OLLAMA_MODELS=/data/models" в разделе [Service], затем systemctl daemon-reload и systemctl restart ollama. Пользователь ollama должен иметь доступ к папке: sudo chown -R ollama:ollama /data/models.
  • Windows: закройте Ollama в трее, в Параметрах (Windows 11) или Панели управления (Windows 10) найдите «переменные среды», откройте правку переменных для своей учётной записи, создайте OLLAMA_MODELS, сохраните и запустите Ollama из меню «Пуск».

Логи лежат так: на macOS ~/.ollama/logs/server.log, на Linux journalctl -e -u ollama, на Windows папка %LOCALAPPDATA%\Ollama, файл server.log. При удалении Ollama в Windows модели из папки, заданной через OLLAMA_MODELS, остаются на месте.

Как подобрать модель под память

В карточке каждого тега на ollama.com/library указаны размер скачивания, окно контекста и типы входа. Размер скачивания примерно равен весу модели, так что в памяти она займёт не меньше. Сверху добавляется кэш контекста, и он растёт вместе с длиной контекста. Это наш вывод из описания, а не цитата документации. Единой формулы в документации Ollama нет. Готовый ориентир есть в быстром старте: пример с gemma4:e2b, скачивание около 7,2 ГБ и рекомендация иметь 8 ГБ. Если памяти меньше, Ollama может взять оперативную память, но ответы, по словам документации, могут идти медленнее.

Ниже модели из каталога на 17 ноября 2026. Диапазоны размера скопированы из карточек как есть.

СемействоТеги и размер скачиванияКонтекстВходМетки в каталоге
gemma4e2b 4.6-7.5 ГБ, e4b (latest) 6.6-9.5 ГБ, 12b 7.7-8.0 ГБ, 26b 16-19 ГБ, 31b 19-20 ГБ128K у e2b и e4b, 256K у остальныхтекст, изображенияvision, tools, thinking, audio, cloud
qwen3.50.8b 1.2-1.3 ГБ, 2b 2.7-3.1 ГБ, 4b 3.3-4.0 ГБ, 9b (latest) 6.6-7.6 ГБ, 27b 17-20 ГБ, 35b 22 ГБ, 122b 81 ГБ256Kтекст, изображенияvision, tools, thinking
qwen3.827b (latest) 18 ГБ, ещё 11 сборок 27b от 18 до 56 ГБ256Kтекст, изображенияvision, tools, thinking
gpt-oss20b (latest) 14 ГБ, 120b 65 ГБ128Kтекстtools, thinking, cloud
llama3.21b 1.3 ГБ, 3b (latest) 2.0 ГБ128Kтекстtools
deepseek-r11.5b 1.1 ГБ, 7b 4.7 ГБ, 8b (latest) 5.2 ГБ, 14b 9.0 ГБ, 32b 20 ГБ, 70b 43 ГБ, 671b 404 ГБ128K, у 671b 160Kтекстtools, thinking
mistral7b (latest) 4.4 ГБ32Kтекстtools
phi414b (latest) 9.1 ГБ16Kтекстметок нет

Число перед буквой b в тегах это приблизительное число параметров в миллиардах: поле parameter_size в API описано как метка вроде 7B или 13B. Метка tools означает, что модель умеет вызывать инструменты, и для агентов вроде Claude Code берут именно такие. Метка vision говорит о работе с изображениями, thinking о режиме рассуждений, embedding о моделях для векторного поиска. Ollama держит в каталоге и их, например nomic-embed-text и embeddinggemma.

Крупные модели в каталоге часто идут без тегов с размером в гигабайтах, только в облачном варианте. У kimi-k3 в карточке четыре метки: vision, tools, thinking и cloud. В разделе Models указан единственный вариант запуска kimi-k3:cloud, то есть ollama run kimi-k3:cloud, а размер указан 2.81T параметров. Такая модель выполняется на серверах Ollama, а не на вашей машине. То же видно в карточке deepseek-v4.1-flash. Что это за модель, мы разобрали в статье «Kimi K3: что это, характеристики и официальный сайт», а про открытые веса DeepSeek и их запуск через Ollama написано в материале «DeepSeek бесплатно: чат, лимиты API и статус сервиса». Чтобы модель работала у вас на машине, ищите теги с размером в гигабайтах. Тег у Qwen3.8 не один: на странице тегов 17 ноября 2026 рядом с qwen3.8:27b на 18 ГБ (под ним же latest) стоят ещё 11 сборок 27B, например qwen3.8:27b-q4_K_M на 18 ГБ и qwen3.8:27b-bf16 на 56 ГБ. Что за семейство Qwen 3.8 и чем отличаются его модели, написано в обзоре «Qwen 3.8: Max, 27B, официальный сайт и цены API».

Контекст и кэш

Размер окна контекста Ollama выбирает по видеопамяти:

ВидеопамятьКонтекст по умолчанию
меньше 24 ГиБ4k
от 24 до 48 ГиБ32k
48 ГиБ и больше256k

Для веб-поиска, агентов и инструментов программирования документация советует не меньше 64 000 токенов. Задают длину так:

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

В приложении Ollama за то же отвечает ползунок длины контекста в настройках. В интерактивном чате работает /set parameter num_ctx 4096, а в запросе к /api/generate параметр num_ctx передают в блоке options. Через OpenAI-совместимый адрес размер контекста не задать, там делают свою модель: в Modelfile строки FROM имя и PARAMETER num_ctx 65536, затем ollama create mymodel -f Modelfile.

Память можно сэкономить на кэше. Если включён Flash Attention, переменная OLLAMA_KV_CACHE_TYPE переводит кэш контекста из f16 в q8_0 (примерно вдвое меньше памяти, потеря точности очень малая) или в q4_0 (примерно вчетверо меньше, потеря небольшая или средняя). Настройка глобальная и действует на все модели.

Проверяйте итог командой ollama ps. Колонка PROCESSOR показывает, где лежит модель: 100% GPU целиком в видеопамяти, 100% CPU целиком в оперативной, значения вроде 48%/52% CPU/GPU означают разделение между ними. Колонка CONTEXT показывает выделенный контекст. Документация советует брать максимальный контекст и не допускать выгрузки на процессор. Если нужен расчёт под конкретную модель, он разобран для Qwen3.8-27B в статье «Qwen 3.8 27B локально»: веса, кэш контекста и запас на рабочие буферы.

Локальный API: порт, пути и форматы

По умолчанию Ollama привязана к 127.0.0.1 и порту 11434. Один сервер отвечает в трёх форматах:

ФорматЛокальный адрес
Ollamahttp://localhost:11434/api
OpenAIhttp://localhost:11434/v1
Anthropic (базовый адрес клиента)http://localhost:11434

Anthropic-клиент сам дописывает /v1/messages. Запрос в родном формате Ollama из быстрого старта:

curl http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:e2b",
    "messages": [{"role": "user", "content": "Say hello in one sentence."}],
    "stream": false
  }'

Ответ лежит в message.content. Без "stream": false многие конечные точки отдают поток строк JSON, документация называет это потоковым режимом по умолчанию.

OpenAI-совместимость

Библиотека openai работает с локальным сервером после смены двух значений. Ключ клиент требует, но Ollama его игнорирует, поэтому подойдёт любая строка:

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")

reply = client.chat.completions.create(
    model="gemma4:e2b",
    messages=[{"role": "user", "content": "Say this is a test"}],
)
print(reply.choices[0].message.content)

Ollama поддерживает подмножество OpenAI API. В /v1/chat/completions по документации работают потоковый вывод, режим JSON, воспроизводимые ответы через seed, изображения в base64, инструменты и управление рассуждением. Не поддерживаются tool_choice, logprobs, logit_bias, n, user и изображения по ссылке. Есть ещё /v1/completions, /v1/embeddings, /v1/models и /v1/responses без состояния: previous_response_id и conversation не принимаются. Формат Anthropic Messages по адресу /v1/messages тоже поддержан в подмножестве.

Если программа жёстко прописала имя вроде gpt-3.5-turbo, документация предлагает сделать копию: ollama cp llama3.2 gpt-3.5-turbo.

Сервер в локальной сети

Чтобы открыть Ollama другим машинам, меняют OLLAMA_HOST, например на 0.0.0.0:11434. Для запросов из браузерных расширений и других источников нужен OLLAMA_ORIGINS. Документация сообщает, что локальные запросы ключа не требуют, и отсюда наш вывод: на открытом порту любой, кто до него дотянется, пользуется вашей видеокартой. Закройте порт файрволом или прокси с авторизацией. Ошибки у API стандартные: 404, если модели нет, 503, когда очередь запросов переполнена (длину очереди задаёт OLLAMA_MAX_QUEUE, по умолчанию 512).

Claude Code на модели Ollama

У Ollama есть готовая команда ollama launch claude --model qwen3.5 и ручной вариант через переменные ANTHROPIC_BASE_URL=http://localhost:11434 и ANTHROPIC_AUTH_TOKEN=ollama. Anthropic при этом пишет в документации по шлюзам, что не поддерживает направление Claude Code на не-Claude модели ни через какой шлюз. Пошаговый запуск, ловушки с settings.json и что подтверждает документация, а что нет, лежит в статье «Claude Code с Ollama и локальной моделью». Здесь мы её не повторяем. Другой агент, который умеет работать с локальными моделями, разобран в статье «OpenCode: установка и модели».

Что локальные модели не заменяют

Сравнение с Claude мы строим только на данных из документации и каталогов. Свои замеры скорости и качества не делали, цифр скорости не приводим.

КритерийЛокально через OllamaОблако через API
Куда уходят запросыПо FAQ Ollama, при локальном запуске её создатели ваши запросы и данные не видятСтороннему провайдеру: не отправляйте то, что нельзя показывать постороннему
Размер контекстаПо карточкам от 16K до 256K, по умолчанию 4k при видеопамяти меньше 24 ГиБВ каталоге Claudexia у claude-sonnet-5 и claude-opus-5-5 в поле max_input_tokens стоит 1 000 000
Какие моделиОткрытые веса, которые помещаются в вашу памятьClaude, GPT и другие по одному ключу
Поля APIOpenAI-формат: нет tool_choice, logprobs, logit_bias, n, user; Anthropic-формат: нет tool_choice и metadataСписок поддержанных полей смотрите в документации провайдера
Что нужноПамять, видеокарта и место на диске: модели весят до сотен гигабайтТолько ключ и баланс
ОбновленияВы скачиваете новые модели и тратите дискПровайдер подключает модель, вы меняете строку с её именем

Что получится на вашем железе в агентной работе, заранее не сказать. Возьмите три задачи на своём репозитории и прогоните на выбранной модели, как описано в статье про Claude Code с Ollama. Если локальную модель ищут потому, что ChatGPT недоступен, как устроен доступ к нему, разобрано в статье «Регистрация ChatGPT из России», а как формулировать запросы к любой модели, показано в статье «Промпты для ChatGPT: формула и 28 готовых шаблонов».

Если локальная модель не подошла: тот же клиент и ключ Claudexia

Клиент на OpenAI-совместимом формате переключается между локальным сервером и облаком сменой base_url и ключа. Для Claudexia адрес https://api.claudexia.tech/v1, ключ начинается с sk_cdx_. Регистрация на странице регистрации: логин, пароль и подтверждение пароля либо вход через Google, GitHub или Telegram, поля email нет. Минимальное пополнение один доллар, платить можно рублями через СБП, картой РФ или криптовалютой.

import os
from openai import OpenAI

local = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")
cloud = OpenAI(base_url="https://api.claudexia.tech/v1", api_key=os.environ["CLAUDEXIA_API_KEY"])

messages = [{"role": "user", "content": "Объясни разницу между TCP и UDP в двух предложениях."}]

for client, model in ((local, "gemma4:e2b"), (cloud, "gpt-5.6-luna")):
    reply = client.chat.completions.create(model=model, messages=messages)
    print(model, reply.choices[0].message.content)

Цены канала Premium из живого каталога на 19 ноября 2026 за 1 млн токенов:

МодельВходВыход
gpt-5.6-luna$0.04$0.20
glm-5.3-flash$0.06$0.16
claude-haiku-5-5$0.10$0.36
claude-sonnet-5$0.62$2.92
claude-opus-5-5$0.88$4.40

Актуальный список и цены смотрите в каталоге моделей: они меняются. Claude Code подключается к https://api.claudexia.tech без /v1, а клиенты на OpenAI-формате к адресу с /v1. Ключ проверяют дешёвым запросом POST /v1/chat/completions с gpt-5.6-luna: неверный ключ получит 401. Запрос GET /v1/models ключ не проверяет, он отвечает 200 и без него.

Частые вопросы

Как установить Ollama на Windows?

Скачайте OllamaSetup.exe со страницы ollama.com/download или выполните в PowerShell irm https://ollama.com/install.ps1 | iex. Нужна Windows 10 22H2 или новее, права администратора не требуются. После установки команда ollama доступна в терминале, а сервер отвечает на http://localhost:11434.

Где Ollama хранит модели и как перенести их на другой диск?

На macOS в ~/.ollama/models, на Linux в /usr/share/ollama/.ollama/models, на Windows в C:\Users\имя_пользователя\.ollama\models. Другое место задаёт переменная OLLAMA_MODELS; как её выставить на каждой системе, написано в разделе про папки с моделями выше.

Какой порт у Ollama и как обратиться к ней по API?

Порт 11434, адрес по умолчанию 127.0.0.1. Родной формат: http://localhost:11434/api/chat, OpenAI-формат: http://localhost:11434/v1/chat/completions, Anthropic-формат: http://localhost:11434/v1/messages. Ключ не проверяется.

Совместима ли Ollama с OpenAI SDK?

Да, в части подмножества API: чат, потоковый вывод, JSON-режим, инструменты, изображения в base64, эмбеддинги и /v1/responses без состояния. Укажите base_url="http://localhost:11434/v1/" и любой ключ. Чего нет, перечислено в разделе про OpenAI-совместимость.

Сколько памяти нужно для модели в Ollama?

Формулы в документации нет. Нижняя граница это размер скачивания из карточки тега, сверху добавляется кэш контекста. Пример из быстрого старта: gemma4:e2b, скачивание около 7,2 ГБ, рекомендованы 8 ГБ. Итог проверяйте командой ollama ps.