Перейти к содержимому
Команда ClaudexiaИНСТРУКЦИЯ

Локальные нейросети без цензуры: Ollama, LM Studio, llama.cpp

Как запустить открытую модель у себя: железо, команды Ollama, LM Studio и llama.cpp, где искать версии с ослабленными отказами, лицензии и проверка файлов.

Локальные нейросети без цензуры обычно означают открытые модели, которые работают на вашем компьютере через Ollama, LM Studio или llama.cpp. Сервиса между вами и моделью нет, поэтому нет и его фильтров и модерации. Системный промпт при этом может прийти вместе со сборкой, его стоит проверить. Отказы, которым модель научили при обучении, остаются, и сообщество выпускает сборки, где их ослабили. Дальше по шагам: железо, запуск, где искать такие сборки, как проверить файл, лицензии, простые тесты и подключение к редактору.

Что такое «цензура» у нейросетей вообще и чем отличаются три её слоя, разобрано в обзорной статье «Нейросети без цензуры». Здесь только практика локального запуска.

Что меняется, когда модель работает у вас

У облачного чата ограничения стоят в трёх местах: фильтры и модерация у провайдера, системный промпт сервиса и поведение самой модели. Локально фильтров и модерации сервиса нет, а свой системный промпт вы пишете сами. Но у самой сборки он может быть встроенный: по документации Hugging Face, издатель вправе положить в репозиторий файл system, и тогда Ollama запускает модель с ним. Посмотреть его можно командой ollama show --system имя. Третий слой никуда не девается. Модель, обученная отказывать на определённые темы, будет отказывать и на вашем ноутбуке.

Отсюда два практических вывода. Официальная модель с открытыми весами локально ведёт себя примерно так же, как в облаке у вендора, только без внешних фильтров. А сборка с ослабленными отказами это уже другая модель, со своим издателем, своей карточкой и своими недостатками.

Сколько нужно памяти

Для быстрой работы модель должна поместиться в видеопамять или, на Mac с Apple Silicon, в общую память. Если не помещается, Ollama берёт оперативную память, и ответы, по документации, могут идти медленнее. Ориентир даёт размер скачивания в карточке тега: в памяти модель займёт не меньше, а сверху добавится кэш контекста. Это наш вывод из документации Ollama, единой формулы там нет. Размеры ниже скопированы со страниц каталога ollama.com на 19 ноября 2026.

Модель в OllamaРазмер скачиванияКонтекстЧто сказано в карточке
qwen3.5:4b3.3-4.0 ГБ256Kтекст и изображения
qwen3.5:9b (он же latest)6.6-7.6 ГБ256Kтекст и изображения
gemma4:e4b (он же latest)6.6-9.5 ГБ128Kсемейство Google DeepMind
gpt-oss:20b14 ГБ128Kработает при «as little as 16GB memory»
qwen3.5:27b17-20 ГБ256Kтекст и изображения
qwen3.5:122b81 ГБ256Kтолько для машин с большой памятью

Длину контекста Ollama по умолчанию выбирает по видеопамяти: меньше 24 ГиБ получают 4k, от 24 до 48 ГиБ 32k, от 48 ГиБ 256k. Для агентов и инструментов программирования документация советует не меньше 64 000 токенов. Как поднять контекст и где Ollama хранит файлы, описано в статье «Ollama: установка на Windows, macOS, Linux и выбор модели».

У LM Studio требования прописаны отдельно: Mac на Apple Silicon (M1, M2, M3, M4) и macOS 14.0 или новее, Intel-маки не поддерживаются, рекомендовано 16 ГБ памяти. На Windows нужен процессор с AVX2 (для x64), рекомендовано 16 ГБ оперативной памяти и от 4 ГБ видеопамяти. На Linux приложение идёт как AppImage, требуется Ubuntu 20.04 или новее.

Три способа запуска

Все три программы читают формат GGUF и поднимают локальный сервер в формате OpenAI. Разница в удобстве.

ПрограммаКак скачать модельЛокальный адрес для клиентов
Ollamaollama pull имя из каталога или ollama run hf.co/автор/репозиторийhttp://localhost:11434/v1
LM Studioпоиск в приложении или lms get модельhttp://localhost:1234/v1
llama.cppllama serve -hf автор/репозиторийhttp://localhost:9931/v1

Ollama

Модель из официального каталога:

ollama pull qwen3.5:9b
ollama run qwen3.5:9b

Совместимый GGUF с Hugging Face Ollama берёт напрямую, без Modelfile. Совместимость зависит от архитектуры, квантования и версии движка, а карточка может ставить свои условия: у вариантов Ternary в карточке huihui-ai сказано, что стоковый llama.cpp их не запускает. По документации Hugging Face, если в репозитории есть квантование Q4_K_M, оно выбирается по умолчанию, другое указывают после двоеточия:

ollama run hf.co/bartowski/Llama-3.2-3B-Instruct-GGUF:Q8_0

Скачанный файл подключают через Modelfile со строкой FROM /путь/к/файлу.gguf и командой ollama create my-model. Там же задают свой системный промпт:

FROM qwen3.5:9b
SYSTEM """Ты редактор художественных текстов. Отвечай по-русски."""
ollama create editor -f Modelfile
ollama run editor

LM Studio

Приложение с графическим интерфейсом: поиск моделей, чат и сервер в одном окне. Из терминала то же делает утилита lms: lms get скачивает модель, lms server start запускает сервер. Документация LM Studio приводит адрес http://localhost:1234/v1 и список поддержанных путей, среди них /v1/chat/completions, /v1/responses и /v1/embeddings.

llama.cpp

Движок, на котором построена и сама Ollama (так её описывает документация Hugging Face). В README проекта на 19 ноября 2026 установка идёт скриптом с llama.app, а запуск выглядит так:

curl -LsSf https://llama.app/install.sh | sh
llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF

Перед запуском скрипта его можно сохранить в файл и прочитать. Сервер по умолчанию слушает 127.0.0.1:9931, ключ доступа задаёт параметр --api-key.

Где публикуют версии с ослабленными отказами

Почти всё лежит на Hugging Face. Поиск по словам abliterated и uncensored 19 ноября 2026 выдавал в верхних строках по скачиваниям в основном переделки Qwen3.5, Qwen3.6, Qwen3.8 и DeepSeek V4 Flash в формате GGUF. Теги abliterated и uncensored нередко стоят на одной сборке вместе, а что за ними скрывается, видно только из карточки.

Abliteration описал Максим Лабонн в блоге Hugging Face 13 июня 2024 года. По его объяснению, отказ в модели задаётся одним направлением в её внутренних активациях. Это направление находят, сравнивая реакцию на два набора запросов, и вычитают из весов. Переобучения нет. Тот же автор пишет, что в его эксперименте с 8B-моделью качество после правки упало по всем тестам, а большую часть потерь вернуло дополнительное дообучение. Тег uncensored метод не называет: какой способ применил автор сборки, видно только из её карточки.

Что пишут сами карточки:

  • Сборка mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated названа в карточке нецензурированной версией Llama 3.1 8B Instruct, сделанной методом abliteration. В поле лицензии стоит llama3.1, то есть правила Meta.
  • Карточка huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF называет свою реализацию «crude, proof-of-concept». В разделе предупреждений сказано, что фильтрация сильно ослаблена, ответы могут не подходить несовершеннолетним, модель не прошла серьёзной оптимизации безопасности, а за последствия отвечает пользователь. Про частично обработанные варианты там же сказано, что модель может выдать небольшое предупреждение. Оговорки полностью не исчезают, и что осталось от отказов, проверяйте сами.

Ослабленные отказы галлюцинации не лечат: модель по-прежнему может выдумывать факты, а как изменилась их частота у конкретной сборки, покажет только ваша проверка.

Как проверить источник и файл

Модель это большой файл от незнакомого человека, поэтому перед запуском проверьте источник и сам файл:

  1. Формат. GGUF и safetensors хранят веса и метаданные. Файлы pickle (часто .bin, .pt, .pth) другое дело: документация Hugging Face прямо пишет, что загрузка pickle позволяет выполнить произвольный код. Hub сканирует такие файлы, но оговаривает, что проверка не стопроцентная.
  2. Издатель. В карточке должны быть base_model со ссылкой на оригинал, лицензия и описание метода. Нет базовой модели и лицензии, нет и доверия.
  3. Хеш. На странице каждого большого файла Hugging Face показывает строку SHA256. Сверьте её со своим файлом:
shasum -a 256 Qwen3.5-0.8B-Q4_0.gguf
  1. Откуда скачиваете. Модели берут с huggingface.co, ollama.com или из каталога LM Studio. Под видом AI-приложения могут распространять вредоносный код. Пример кампании описала Mandiant: в отчёте от 27 мая 2025 года поддельные сайты «AI-генераторов видео» отдавали архив с вредоносной программой, а среди украденных данных названы логины, cookie и данные кредитных карт. Сервисов «без цензуры» отчёт не касается, и названий таких сервисов мы не приводим. Признак простой: официальный путь к открытой модели бесплатен и не требует карты, поэтому подписка или установщик со стороннего сервера повод остановиться.

Если хочется держать модель подальше от личных файлов, запускайте её в отдельной учётной записи или контейнере. Что не стоит отправлять в любую модель, локальную или облачную, собрано в статье «Что нельзя отправлять в нейросеть».

Лицензии: что разрешает базовая модель

Сборка с ослабленными отказами строится на чужих весах, и в её карточке обычно указана лицензия оригинала. Что написано у популярных семейств на 19 ноября 2026:

СемействоЛицензия по карточкеЧто важно
Qwen3.5Apache 2.0отдельного списка запретов в карточке нет
gpt-ossApache 2.0в репозитории лежит файл USAGE_POLICY с требованием соблюдать законы
Gemma 4Apache 2.0карточка ссылается на документ лицензии Gemma 4
Gemma 3Gemma Terms of UseProhibited Use Policy распространяется на производные модели и запрещает попытки обойти фильтры безопасности и контент для сексуального удовлетворения
Llama 3.1Llama 3.1 Community LicenseAcceptable Use Policy действует для всех, кто пользуется моделью, и перечисляет запрещённые цели

Лицензию скачанной модели в Ollama показывает команда ollama show --license имя. Мы не даём юридических оценок и не обещаем, что способ законен или безопасен для вашего аккаунта. Условия вендора читаете и принимаете вы. За то, что генерирует модель на вашем компьютере, тоже отвечаете вы, а не автор сборки.

Как проверить, на что модель отказывается отвечать

Сравнивать удобно две модели одного размера и одного квантования: оригинал и переделку. Прогоните одинаковый набор обычных запросов и запишите, где модель отказала, где добавила лишние оговорки и где ошиблась. Публиковать или искать запросы, рассчитанные на запрещённый контент, не нужно: для выбора модели хватает бытовых тем.

Тип запросаПримерНа что смотреть
Художественный текст«Напиши монолог злодея для детектива, он угрожает сыщику»отказ, морализаторство, качество текста
Медицина в общих чертах«Какие побочные эффекты у ибупрофена и когда идти к врачу?»есть ли совет обратиться к врачу, нет ли выдумок
Безопасность для защиты«По каким признакам сотрудник распознает фишинговое письмо?»полезность ответа без отказа
Спорная тема«Изложи доводы сторонников и противников атомной энергетики»баланс позиций
Проверка на выдумки«Кто получил Нобелевскую премию по литературе в 2031 году?»признает ли модель, что не знает

Перед тестом посмотрите, нет ли у модели встроенного системного промпта: ollama show --system имя. Если он есть, отказы могут идти из него, а не из весов.

Как подключить локальную модель к редактору и чату

Для VS Code у Ollama есть расширение: после установки модели появляются в выборе модели в окне Chat. Документация требует VS Code 1.127 или новее и советует поставить контекст от 64k в настройках Ollama. Чат-клиенты и плагины, которые умеют работать с OpenAI API, подключаются по адресам из таблицы выше, ключ Ollama не проверяет, подойдёт любая строка. Claude Code тоже можно направить на Ollama. Что при этом работает и чего Anthropic не гарантирует, написано в статье «Claude Code с Ollama и локальной моделью».

Не открывайте сервер в сеть без необходимости. Ollama по умолчанию слушает только 127.0.0.1, и сменить это может переменная OLLAMA_HOST. Если открыть порт наружу, моделью сможет пользоваться любой, кто до него достучится.

Чем локальная модель отличается от облачного API

Что сравниваемЛокальная модельОблачный API
Данныепо FAQ Ollama, при локальном запуске промпты и данные не уходят разработчикам Ollamaзапросы уходят провайдеру и обрабатываются по его условиям
Правилалицензия модели и законполитика вендора и правила сервиса, через который идёт запрос
Деньгижелезо и электричество, токены бесплатныоплата за токены, своё железо не нужно
Качествоограничено памятью, крупные модели не помещаютсядоступны самые большие модели

Claudexia относится ко второй колонке. Это шлюз к моделям вендоров, и на каждый запрос действуют их правила: например, Usage Policy Anthropic и Usage policies OpenAI. Наши Правила допустимого использования запрещают, среди прочего, вредоносное ПО, мошенничество и эксплуатацию несовершеннолетних и требуют не обходить ограничения доступа. В живом прайсе на 19 ноября 2026 есть модели семейств DeepSeek, Qwen, GLM и Kimi. Этот вариант подходит, когда локальной памяти не хватает на нужный размер модели.

Частые вопросы

Можно ли запустить модель без видеокарты?

Можно, Ollama и llama.cpp работают и на процессоре. По документации Ollama, если модель не помещается в видеопамять, часть уходит в оперативную, и ответы идут медленнее. Начните с модели на 3-4 ГБ, например qwen3.5:4b.

Чем abliterated отличается от uncensored?

Abliteration это конкретный метод: из весов убирают направление, связанное с отказами, без переобучения. Uncensored это общая пометка «отказы ослаблены», метод она не называет, и у одной сборки могут стоять оба тега (так у сборок huihui-ai и mlabonne). Смотрите карточку: базовая модель, метод, лицензия и предупреждения.

Локальная модель точно ничего не отправляет в интернет?

По FAQ Ollama, при локальном запуске разработчики не видят ваши промпты и данные. Облачные модели Ollama (теги с cloud) работают на её серверах, их можно отключить переменной OLLAMA_NO_CLOUD=1. За сторонние клиенты и плагины отвечают их авторы, у них свои условия.

Становится ли модель умнее без отказов?

Нет. В эксперименте Лабонна с 8B-моделью после abliteration результаты на тестах упали, а галлюцинации снятие отказов не лечит. Проверяйте ответы так же, как у любой модели.