Ollama ставят со страницы ollama.com/download. На macOS и Windows это установщик, на Linux скрипт в одну строку. Потом ollama run gemma4:e2b скачивает модель и открывает чат, а программы обращаются к серверу по адресу http://localhost:11434. Дальше по порядку: установка и требования, команды, папки с моделями, выбор модели под память, локальный API и границы локальных моделей. Команды и числа здесь из документации Ollama и карточек каталога, которые мы открыли 17 ноября 2026.
Откуда скачивать
Официальных адресов три: ollama.com для сайта и каталога, docs.ollama.com для документации и github.com/ollama/ollama для исходников. В README репозитория стоят те же команды установки, что на странице загрузки, а ссылки на файлы Ollama.dmg и OllamaSetup.exe ведут на ollama.com/download. Берите установщик только оттуда. Скрипт из чата, рекламы или со стороннего сайта получит на вашей машине те права, которые вы ему дали, так что чужие команды в терминал не вставляйте.
Установка на macOS, Windows и Linux
| Система | Как ставить | Требования по документации |
|---|---|---|
| macOS | Ollama.dmg или скрипт install.sh | macOS Sonoma (14) и новее; чипы Apple M (процессор и GPU) или x86 (только процессор) |
| Windows | OllamaSetup.exe или скрипт install.ps1 | Windows 10 22H2 и новее, Home или Pro; драйвер NVIDIA 551.61 и новее для карт NVIDIA; для AMD драйвер с ROCm v7 или Vulkan |
| Linux | скрипт install.sh или ручная установка архива | версию дистрибутива документация не называет; NVIDIA с compute capability 5.0 и выше и драйвером 550 и новее (для compute capability от 5.0 до 6.2 нужен драйвер 570 и новее), AMD через ROCm v7 |
Команды из README и со страницы загрузки. macOS и Linux:
curl -fsSL https://ollama.com/install.sh | sh
Windows, PowerShell:
irm https://ollama.com/install.ps1 | iex
Если не хочется запускать скрипт вслепую, скачайте его в файл, прочитайте и только потом запустите: curl -fsSL https://ollama.com/install.sh -o install.sh, затем sh install.sh.
На macOS документация считает основным способом образ Ollama.dmg: перетащить приложение в Applications. При первом запуске приложение проверит, есть ли команда ollama в PATH, и спросит разрешение создать ссылку в /usr/local/bin. Скрипт делает то же самое сам: кладёт приложение в /Applications, ссылку в /usr/local/bin и при необходимости просит пароль.
На Windows администратор не нужен: установка идёт в домашний каталог пользователя. Под сам Ollama документация просит не меньше 4 ГБ свободного места, а модели добавляют сверху десятки и сотни гигабайт. Другой каталог задаёт ключ установщика: OllamaSetup.exe /DIR="d:\some\location". После установки Ollama работает в фоне, а команда ollama доступна в cmd, PowerShell и других терминалах.
На Linux скрипту нужен sudo. Из текста самого install.sh видно, что бинарники он ставит всегда, а пользователя и группу ollama и службу systemd создаёт, только если в системе есть systemctl. Службу он включает и запускает, когда systemctl is-system-running отвечает running или degraded. Иначе скрипт предупреждает, что systemd не работает (так бывает, например, в WSL2 без systemd), и сервер запускают вручную командой ollama serve. Ручной вариант без скрипта описан на странице документации про Linux: архив распаковывается в /usr, для AMD добавляется отдельный архив с ROCm, а службу создают вручную.
Проверка после установки. Версию показывает ollama -v, а сервер слушает 127.0.0.1:11434: этот адрес называют FAQ Ollama и скрипт установки на Linux.
Docker
Официальный образ называется ollama/ollama. Вариант без GPU и запуск первой модели внутри контейнера:
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker exec -it ollama ollama run llama3.2
Команда взята из документации Ollama, и порт в ней публикуется без адреса. По документации Docker, так порт открывается на всех адресах хоста, то есть API доступен и из сети, а Ollama ключ не проверяет. Чтобы оставить доступ только с этой машины, привяжите порт к 127.0.0.1: -p 127.0.0.1:11434:11434. Так порт доступен только хосту в Docker Engine 28.0.0 и новее: по предупреждению в документации Docker, в более старых выпусках хосты из того же сегмента L2 (например, подключённые к одному коммутатору) могут достучаться до портов, опубликованных на localhost. Версию сервера показывает docker version --format '{{.Server.Version}}', на старой версии обновите Docker.
Ускорение на видеокарте NVIDIA требует NVIDIA Container Toolkit и ключа --gpus=all. В Docker Desktop на macOS GPU недоступен: в документации сказано, что проброса видеокарты там нет.
Обновление
macOS и Windows скачивают обновления сами. В меню или в трее появляется пункт «Restart to update». На Linux команду установки запускают ещё раз. Нужную версию ставят через переменную OLLAMA_VERSION: curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh.
Первые команды: run, pull, ls, ps
Первый запуск проще всего сделать так, как в быстром старте документации:
ollama run gemma4:e2b
Ollama скачает модель и откроет чат прямо в терминале, выйти можно командой /bye. По быстрому старту скачивание занимает около 7,2 ГБ, а рекомендуемый объём памяти для этой модели 8 ГБ видеопамяти или общей памяти на Mac. Многострочный ввод оборачивают в тройные кавычки """. Картинку мультимодальной модели передают путём в самом запросе: ollama run gemma4 "What's in this image? /Users/name/Desktop/smile.png".
| Команда | Что делает |
|---|---|
ollama run имя | скачивает модель, если её нет, и открывает чат |
ollama pull имя | только скачивает модель |
ollama ls | показывает скачанные модели |
ollama ps | показывает модели, загруженные в память, и колонки PROCESSOR и CONTEXT |
ollama stop имя | выгружает модель из памяти |
ollama rm имя | удаляет модель с диска |
ollama cp источник новое_имя | делает копию модели под другим именем |
ollama show --modelfile имя | печатает Modelfile модели |
ollama create имя -f Modelfile | собирает свою модель под указанным именем по файлу Modelfile |
ollama serve | запускает сервер; список переменных окружения даёт ollama serve --help |
ollama launch | настраивает и запускает внешние программы: Claude Code, OpenCode, Codex, VS Code, Droid |
ollama signin и ollama signout | вход в аккаунт Ollama и выход, нужны для облачных моделей |
Модель после ответа остаётся в памяти пять минут. Это значение по умолчанию, ollama stop выгружает её сразу, а переменная OLLAMA_KEEP_ALIVE меняет срок для всех моделей. Через API то же задаёт параметр keep_alive.
Где Ollama хранит модели
| Система | Папка с моделями |
|---|---|
| macOS | ~/.ollama/models |
| Linux | /usr/share/ollama/.ollama/models |
| Windows | C:\Users\имя_пользователя\.ollama\models |
Нужен другой диск: задайте переменную OLLAMA_MODELS с путём к новой папке. Где её задавать, зависит от системы:
- macOS, если Ollama запущена как приложение:
launchctl setenv OLLAMA_MODELS "/Volumes/Disk/models", затем перезапуск приложения. - Linux, если Ollama работает как служба:
systemctl edit ollama.service, строкаEnvironment="OLLAMA_MODELS=/data/models"в разделе[Service], затемsystemctl daemon-reloadиsystemctl restart ollama. Пользовательollamaдолжен иметь доступ к папке:sudo chown -R ollama:ollama /data/models. - Windows: закройте Ollama в трее, в Параметрах (Windows 11) или Панели управления (Windows 10) найдите «переменные среды», откройте правку переменных для своей учётной записи, создайте
OLLAMA_MODELS, сохраните и запустите Ollama из меню «Пуск».
Логи лежат так: на macOS ~/.ollama/logs/server.log, на Linux journalctl -e -u ollama, на Windows папка %LOCALAPPDATA%\Ollama, файл server.log. При удалении Ollama в Windows модели из папки, заданной через OLLAMA_MODELS, остаются на месте.
Как подобрать модель под память
В карточке каждого тега на ollama.com/library указаны размер скачивания, окно контекста и типы входа. Размер скачивания примерно равен весу модели, так что в памяти она займёт не меньше. Сверху добавляется кэш контекста, и он растёт вместе с длиной контекста. Это наш вывод из описания, а не цитата документации. Единой формулы в документации Ollama нет. Готовый ориентир есть в быстром старте: пример с gemma4:e2b, скачивание около 7,2 ГБ и рекомендация иметь 8 ГБ. Если памяти меньше, Ollama может взять оперативную память, но ответы, по словам документации, могут идти медленнее.
Ниже модели из каталога на 17 ноября 2026. Диапазоны размера скопированы из карточек как есть.
| Семейство | Теги и размер скачивания | Контекст | Вход | Метки в каталоге |
|---|---|---|---|---|
gemma4 | e2b 4.6-7.5 ГБ, e4b (latest) 6.6-9.5 ГБ, 12b 7.7-8.0 ГБ, 26b 16-19 ГБ, 31b 19-20 ГБ | 128K у e2b и e4b, 256K у остальных | текст, изображения | vision, tools, thinking, audio, cloud |
qwen3.5 | 0.8b 1.2-1.3 ГБ, 2b 2.7-3.1 ГБ, 4b 3.3-4.0 ГБ, 9b (latest) 6.6-7.6 ГБ, 27b 17-20 ГБ, 35b 22 ГБ, 122b 81 ГБ | 256K | текст, изображения | vision, tools, thinking |
qwen3.8 | 27b (latest) 18 ГБ, ещё 11 сборок 27b от 18 до 56 ГБ | 256K | текст, изображения | vision, tools, thinking |
gpt-oss | 20b (latest) 14 ГБ, 120b 65 ГБ | 128K | текст | tools, thinking, cloud |
llama3.2 | 1b 1.3 ГБ, 3b (latest) 2.0 ГБ | 128K | текст | tools |
deepseek-r1 | 1.5b 1.1 ГБ, 7b 4.7 ГБ, 8b (latest) 5.2 ГБ, 14b 9.0 ГБ, 32b 20 ГБ, 70b 43 ГБ, 671b 404 ГБ | 128K, у 671b 160K | текст | tools, thinking |
mistral | 7b (latest) 4.4 ГБ | 32K | текст | tools |
phi4 | 14b (latest) 9.1 ГБ | 16K | текст | меток нет |
Число перед буквой b в тегах это приблизительное число параметров в миллиардах: поле parameter_size в API описано как метка вроде 7B или 13B. Метка tools означает, что модель умеет вызывать инструменты, и для агентов вроде Claude Code берут именно такие. Метка vision говорит о работе с изображениями, thinking о режиме рассуждений, embedding о моделях для векторного поиска. Ollama держит в каталоге и их, например nomic-embed-text и embeddinggemma.
Крупные модели в каталоге часто идут без тегов с размером в гигабайтах, только в облачном варианте. У kimi-k3 в карточке четыре метки: vision, tools, thinking и cloud. В разделе Models указан единственный вариант запуска kimi-k3:cloud, то есть ollama run kimi-k3:cloud, а размер указан 2.81T параметров. Такая модель выполняется на серверах Ollama, а не на вашей машине. То же видно в карточке deepseek-v4.1-flash. Что это за модель, мы разобрали в статье «Kimi K3: что это, характеристики и официальный сайт», а про открытые веса DeepSeek и их запуск через Ollama написано в материале «DeepSeek бесплатно: чат, лимиты API и статус сервиса». Чтобы модель работала у вас на машине, ищите теги с размером в гигабайтах. Тег у Qwen3.8 не один: на странице тегов 17 ноября 2026 рядом с qwen3.8:27b на 18 ГБ (под ним же latest) стоят ещё 11 сборок 27B, например qwen3.8:27b-q4_K_M на 18 ГБ и qwen3.8:27b-bf16 на 56 ГБ. Что за семейство Qwen 3.8 и чем отличаются его модели, написано в обзоре «Qwen 3.8: Max, 27B, официальный сайт и цены API».
Контекст и кэш
Размер окна контекста Ollama выбирает по видеопамяти:
| Видеопамять | Контекст по умолчанию |
|---|---|
| меньше 24 ГиБ | 4k |
| от 24 до 48 ГиБ | 32k |
| 48 ГиБ и больше | 256k |
Для веб-поиска, агентов и инструментов программирования документация советует не меньше 64 000 токенов. Задают длину так:
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
В приложении Ollama за то же отвечает ползунок длины контекста в настройках. В интерактивном чате работает /set parameter num_ctx 4096, а в запросе к /api/generate параметр num_ctx передают в блоке options. Через OpenAI-совместимый адрес размер контекста не задать, там делают свою модель: в Modelfile строки FROM имя и PARAMETER num_ctx 65536, затем ollama create mymodel -f Modelfile.
Память можно сэкономить на кэше. Если включён Flash Attention, переменная OLLAMA_KV_CACHE_TYPE переводит кэш контекста из f16 в q8_0 (примерно вдвое меньше памяти, потеря точности очень малая) или в q4_0 (примерно вчетверо меньше, потеря небольшая или средняя). Настройка глобальная и действует на все модели.
Проверяйте итог командой ollama ps. Колонка PROCESSOR показывает, где лежит модель: 100% GPU целиком в видеопамяти, 100% CPU целиком в оперативной, значения вроде 48%/52% CPU/GPU означают разделение между ними. Колонка CONTEXT показывает выделенный контекст. Документация советует брать максимальный контекст и не допускать выгрузки на процессор. Если нужен расчёт под конкретную модель, он разобран для Qwen3.8-27B в статье «Qwen 3.8 27B локально»: веса, кэш контекста и запас на рабочие буферы.
Локальный API: порт, пути и форматы
По умолчанию Ollama привязана к 127.0.0.1 и порту 11434. Один сервер отвечает в трёх форматах:
| Формат | Локальный адрес |
|---|---|
| Ollama | http://localhost:11434/api |
| OpenAI | http://localhost:11434/v1 |
| Anthropic (базовый адрес клиента) | http://localhost:11434 |
Anthropic-клиент сам дописывает /v1/messages. Запрос в родном формате Ollama из быстрого старта:
curl http://localhost:11434/api/chat \
-H "Content-Type: application/json" \
-d '{
"model": "gemma4:e2b",
"messages": [{"role": "user", "content": "Say hello in one sentence."}],
"stream": false
}'
Ответ лежит в message.content. Без "stream": false многие конечные точки отдают поток строк JSON, документация называет это потоковым режимом по умолчанию.
OpenAI-совместимость
Библиотека openai работает с локальным сервером после смены двух значений. Ключ клиент требует, но Ollama его игнорирует, поэтому подойдёт любая строка:
from openai import OpenAI
client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")
reply = client.chat.completions.create(
model="gemma4:e2b",
messages=[{"role": "user", "content": "Say this is a test"}],
)
print(reply.choices[0].message.content)
Ollama поддерживает подмножество OpenAI API. В /v1/chat/completions по документации работают потоковый вывод, режим JSON, воспроизводимые ответы через seed, изображения в base64, инструменты и управление рассуждением. Не поддерживаются tool_choice, logprobs, logit_bias, n, user и изображения по ссылке. Есть ещё /v1/completions, /v1/embeddings, /v1/models и /v1/responses без состояния: previous_response_id и conversation не принимаются. Формат Anthropic Messages по адресу /v1/messages тоже поддержан в подмножестве.
Если программа жёстко прописала имя вроде gpt-3.5-turbo, документация предлагает сделать копию: ollama cp llama3.2 gpt-3.5-turbo.
Сервер в локальной сети
Чтобы открыть Ollama другим машинам, меняют OLLAMA_HOST, например на 0.0.0.0:11434. Для запросов из браузерных расширений и других источников нужен OLLAMA_ORIGINS. Документация сообщает, что локальные запросы ключа не требуют, и отсюда наш вывод: на открытом порту любой, кто до него дотянется, пользуется вашей видеокартой. Закройте порт файрволом или прокси с авторизацией. Ошибки у API стандартные: 404, если модели нет, 503, когда очередь запросов переполнена (длину очереди задаёт OLLAMA_MAX_QUEUE, по умолчанию 512).
Claude Code на модели Ollama
У Ollama есть готовая команда ollama launch claude --model qwen3.5 и ручной вариант через переменные ANTHROPIC_BASE_URL=http://localhost:11434 и ANTHROPIC_AUTH_TOKEN=ollama. Anthropic при этом пишет в документации по шлюзам, что не поддерживает направление Claude Code на не-Claude модели ни через какой шлюз. Пошаговый запуск, ловушки с settings.json и что подтверждает документация, а что нет, лежит в статье «Claude Code с Ollama и локальной моделью». Здесь мы её не повторяем. Другой агент, который умеет работать с локальными моделями, разобран в статье «OpenCode: установка и модели».
Что локальные модели не заменяют
Сравнение с Claude мы строим только на данных из документации и каталогов. Свои замеры скорости и качества не делали, цифр скорости не приводим.
| Критерий | Локально через Ollama | Облако через API |
|---|---|---|
| Куда уходят запросы | По FAQ Ollama, при локальном запуске её создатели ваши запросы и данные не видят | Стороннему провайдеру: не отправляйте то, что нельзя показывать постороннему |
| Размер контекста | По карточкам от 16K до 256K, по умолчанию 4k при видеопамяти меньше 24 ГиБ | В каталоге Claudexia у claude-sonnet-5 и claude-opus-5-5 в поле max_input_tokens стоит 1 000 000 |
| Какие модели | Открытые веса, которые помещаются в вашу память | Claude, GPT и другие по одному ключу |
| Поля API | OpenAI-формат: нет tool_choice, logprobs, logit_bias, n, user; Anthropic-формат: нет tool_choice и metadata | Список поддержанных полей смотрите в документации провайдера |
| Что нужно | Память, видеокарта и место на диске: модели весят до сотен гигабайт | Только ключ и баланс |
| Обновления | Вы скачиваете новые модели и тратите диск | Провайдер подключает модель, вы меняете строку с её именем |
Что получится на вашем железе в агентной работе, заранее не сказать. Возьмите три задачи на своём репозитории и прогоните на выбранной модели, как описано в статье про Claude Code с Ollama. Если локальную модель ищут потому, что ChatGPT недоступен, как устроен доступ к нему, разобрано в статье «Регистрация ChatGPT из России», а как формулировать запросы к любой модели, показано в статье «Промпты для ChatGPT: формула и 28 готовых шаблонов».
Если локальная модель не подошла: тот же клиент и ключ Claudexia
Клиент на OpenAI-совместимом формате переключается между локальным сервером и облаком сменой base_url и ключа. Для Claudexia адрес https://api.claudexia.tech/v1, ключ начинается с sk_cdx_. Регистрация на странице регистрации: логин, пароль и подтверждение пароля либо вход через Google, GitHub или Telegram, поля email нет. Минимальное пополнение один доллар, платить можно рублями через СБП, картой РФ или криптовалютой.
import os
from openai import OpenAI
local = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")
cloud = OpenAI(base_url="https://api.claudexia.tech/v1", api_key=os.environ["CLAUDEXIA_API_KEY"])
messages = [{"role": "user", "content": "Объясни разницу между TCP и UDP в двух предложениях."}]
for client, model in ((local, "gemma4:e2b"), (cloud, "gpt-5.6-luna")):
reply = client.chat.completions.create(model=model, messages=messages)
print(model, reply.choices[0].message.content)
Цены канала Premium из живого каталога на 19 ноября 2026 за 1 млн токенов:
| Модель | Вход | Выход |
|---|---|---|
gpt-5.6-luna | $0.04 | $0.20 |
glm-5.3-flash | $0.06 | $0.16 |
claude-haiku-5-5 | $0.10 | $0.36 |
claude-sonnet-5 | $0.62 | $2.92 |
claude-opus-5-5 | $0.88 | $4.40 |
Актуальный список и цены смотрите в каталоге моделей: они меняются. Claude Code подключается к https://api.claudexia.tech без /v1, а клиенты на OpenAI-формате к адресу с /v1. Ключ проверяют дешёвым запросом POST /v1/chat/completions с gpt-5.6-luna: неверный ключ получит 401. Запрос GET /v1/models ключ не проверяет, он отвечает 200 и без него.
Частые вопросы
Как установить Ollama на Windows?
Скачайте OllamaSetup.exe со страницы ollama.com/download или выполните в PowerShell irm https://ollama.com/install.ps1 | iex. Нужна Windows 10 22H2 или новее, права администратора не требуются. После установки команда ollama доступна в терминале, а сервер отвечает на http://localhost:11434.
Где Ollama хранит модели и как перенести их на другой диск?
На macOS в ~/.ollama/models, на Linux в /usr/share/ollama/.ollama/models, на Windows в C:\Users\имя_пользователя\.ollama\models. Другое место задаёт переменная OLLAMA_MODELS; как её выставить на каждой системе, написано в разделе про папки с моделями выше.
Какой порт у Ollama и как обратиться к ней по API?
Порт 11434, адрес по умолчанию 127.0.0.1. Родной формат: http://localhost:11434/api/chat, OpenAI-формат: http://localhost:11434/v1/chat/completions, Anthropic-формат: http://localhost:11434/v1/messages. Ключ не проверяется.
Совместима ли Ollama с OpenAI SDK?
Да, в части подмножества API: чат, потоковый вывод, JSON-режим, инструменты, изображения в base64, эмбеддинги и /v1/responses без состояния. Укажите base_url="http://localhost:11434/v1/" и любой ключ. Чего нет, перечислено в разделе про OpenAI-совместимость.
Сколько памяти нужно для модели в Ollama?
Формулы в документации нет. Нижняя граница это размер скачивания из карточки тега, сверху добавляется кэш контекста. Пример из быстрого старта: gemma4:e2b, скачивание около 7,2 ГБ, рекомендованы 8 ГБ. Итог проверяйте командой ollama ps.