Локальные нейросети без цензуры обычно означают открытые модели, которые работают на вашем компьютере через Ollama, LM Studio или llama.cpp. Сервиса между вами и моделью нет, поэтому нет и его фильтров и модерации. Системный промпт при этом может прийти вместе со сборкой, его стоит проверить. Отказы, которым модель научили при обучении, остаются, и сообщество выпускает сборки, где их ослабили. Дальше по шагам: железо, запуск, где искать такие сборки, как проверить файл, лицензии, простые тесты и подключение к редактору.
Что такое «цензура» у нейросетей вообще и чем отличаются три её слоя, разобрано в обзорной статье «Нейросети без цензуры». Здесь только практика локального запуска.
Что меняется, когда модель работает у вас
У облачного чата ограничения стоят в трёх местах: фильтры и модерация у провайдера, системный промпт сервиса и поведение самой модели. Локально фильтров и модерации сервиса нет, а свой системный промпт вы пишете сами. Но у самой сборки он может быть встроенный: по документации Hugging Face, издатель вправе положить в репозиторий файл system, и тогда Ollama запускает модель с ним. Посмотреть его можно командой ollama show --system имя. Третий слой никуда не девается. Модель, обученная отказывать на определённые темы, будет отказывать и на вашем ноутбуке.
Отсюда два практических вывода. Официальная модель с открытыми весами локально ведёт себя примерно так же, как в облаке у вендора, только без внешних фильтров. А сборка с ослабленными отказами это уже другая модель, со своим издателем, своей карточкой и своими недостатками.
Сколько нужно памяти
Для быстрой работы модель должна поместиться в видеопамять или, на Mac с Apple Silicon, в общую память. Если не помещается, Ollama берёт оперативную память, и ответы, по документации, могут идти медленнее. Ориентир даёт размер скачивания в карточке тега: в памяти модель займёт не меньше, а сверху добавится кэш контекста. Это наш вывод из документации Ollama, единой формулы там нет. Размеры ниже скопированы со страниц каталога ollama.com на 19 ноября 2026.
| Модель в Ollama | Размер скачивания | Контекст | Что сказано в карточке |
|---|---|---|---|
qwen3.5:4b | 3.3-4.0 ГБ | 256K | текст и изображения |
qwen3.5:9b (он же latest) | 6.6-7.6 ГБ | 256K | текст и изображения |
gemma4:e4b (он же latest) | 6.6-9.5 ГБ | 128K | семейство Google DeepMind |
gpt-oss:20b | 14 ГБ | 128K | работает при «as little as 16GB memory» |
qwen3.5:27b | 17-20 ГБ | 256K | текст и изображения |
qwen3.5:122b | 81 ГБ | 256K | только для машин с большой памятью |
Длину контекста Ollama по умолчанию выбирает по видеопамяти: меньше 24 ГиБ получают 4k, от 24 до 48 ГиБ 32k, от 48 ГиБ 256k. Для агентов и инструментов программирования документация советует не меньше 64 000 токенов. Как поднять контекст и где Ollama хранит файлы, описано в статье «Ollama: установка на Windows, macOS, Linux и выбор модели».
У LM Studio требования прописаны отдельно: Mac на Apple Silicon (M1, M2, M3, M4) и macOS 14.0 или новее, Intel-маки не поддерживаются, рекомендовано 16 ГБ памяти. На Windows нужен процессор с AVX2 (для x64), рекомендовано 16 ГБ оперативной памяти и от 4 ГБ видеопамяти. На Linux приложение идёт как AppImage, требуется Ubuntu 20.04 или новее.
Три способа запуска
Все три программы читают формат GGUF и поднимают локальный сервер в формате OpenAI. Разница в удобстве.
| Программа | Как скачать модель | Локальный адрес для клиентов |
|---|---|---|
| Ollama | ollama pull имя из каталога или ollama run hf.co/автор/репозиторий | http://localhost:11434/v1 |
| LM Studio | поиск в приложении или lms get модель | http://localhost:1234/v1 |
| llama.cpp | llama serve -hf автор/репозиторий | http://localhost:9931/v1 |
Ollama
Модель из официального каталога:
ollama pull qwen3.5:9b
ollama run qwen3.5:9b
Совместимый GGUF с Hugging Face Ollama берёт напрямую, без Modelfile. Совместимость зависит от архитектуры, квантования и версии движка, а карточка может ставить свои условия: у вариантов Ternary в карточке huihui-ai сказано, что стоковый llama.cpp их не запускает. По документации Hugging Face, если в репозитории есть квантование Q4_K_M, оно выбирается по умолчанию, другое указывают после двоеточия:
ollama run hf.co/bartowski/Llama-3.2-3B-Instruct-GGUF:Q8_0
Скачанный файл подключают через Modelfile со строкой FROM /путь/к/файлу.gguf и командой ollama create my-model. Там же задают свой системный промпт:
FROM qwen3.5:9b
SYSTEM """Ты редактор художественных текстов. Отвечай по-русски."""
ollama create editor -f Modelfile
ollama run editor
LM Studio
Приложение с графическим интерфейсом: поиск моделей, чат и сервер в одном окне. Из терминала то же делает утилита lms: lms get скачивает модель, lms server start запускает сервер. Документация LM Studio приводит адрес http://localhost:1234/v1 и список поддержанных путей, среди них /v1/chat/completions, /v1/responses и /v1/embeddings.
llama.cpp
Движок, на котором построена и сама Ollama (так её описывает документация Hugging Face). В README проекта на 19 ноября 2026 установка идёт скриптом с llama.app, а запуск выглядит так:
curl -LsSf https://llama.app/install.sh | sh
llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF
Перед запуском скрипта его можно сохранить в файл и прочитать. Сервер по умолчанию слушает 127.0.0.1:9931, ключ доступа задаёт параметр --api-key.
Где публикуют версии с ослабленными отказами
Почти всё лежит на Hugging Face. Поиск по словам abliterated и uncensored 19 ноября 2026 выдавал в верхних строках по скачиваниям в основном переделки Qwen3.5, Qwen3.6, Qwen3.8 и DeepSeek V4 Flash в формате GGUF. Теги abliterated и uncensored нередко стоят на одной сборке вместе, а что за ними скрывается, видно только из карточки.
Abliteration описал Максим Лабонн в блоге Hugging Face 13 июня 2024 года. По его объяснению, отказ в модели задаётся одним направлением в её внутренних активациях. Это направление находят, сравнивая реакцию на два набора запросов, и вычитают из весов. Переобучения нет. Тот же автор пишет, что в его эксперименте с 8B-моделью качество после правки упало по всем тестам, а большую часть потерь вернуло дополнительное дообучение. Тег uncensored метод не называет: какой способ применил автор сборки, видно только из её карточки.
Что пишут сами карточки:
- Сборка mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated названа в карточке нецензурированной версией Llama 3.1 8B Instruct, сделанной методом abliteration. В поле лицензии стоит llama3.1, то есть правила Meta.
- Карточка huihui-ai/Huihui-Qwen3.8-27B-abliterated-GGUF называет свою реализацию «crude, proof-of-concept». В разделе предупреждений сказано, что фильтрация сильно ослаблена, ответы могут не подходить несовершеннолетним, модель не прошла серьёзной оптимизации безопасности, а за последствия отвечает пользователь. Про частично обработанные варианты там же сказано, что модель может выдать небольшое предупреждение. Оговорки полностью не исчезают, и что осталось от отказов, проверяйте сами.
Ослабленные отказы галлюцинации не лечат: модель по-прежнему может выдумывать факты, а как изменилась их частота у конкретной сборки, покажет только ваша проверка.
Как проверить источник и файл
Модель это большой файл от незнакомого человека, поэтому перед запуском проверьте источник и сам файл:
- Формат. GGUF и safetensors хранят веса и метаданные. Файлы pickle (часто
.bin,.pt,.pth) другое дело: документация Hugging Face прямо пишет, что загрузка pickle позволяет выполнить произвольный код. Hub сканирует такие файлы, но оговаривает, что проверка не стопроцентная. - Издатель. В карточке должны быть
base_modelсо ссылкой на оригинал, лицензия и описание метода. Нет базовой модели и лицензии, нет и доверия. - Хеш. На странице каждого большого файла Hugging Face показывает строку SHA256. Сверьте её со своим файлом:
shasum -a 256 Qwen3.5-0.8B-Q4_0.gguf
- Откуда скачиваете. Модели берут с huggingface.co, ollama.com или из каталога LM Studio. Под видом AI-приложения могут распространять вредоносный код. Пример кампании описала Mandiant: в отчёте от 27 мая 2025 года поддельные сайты «AI-генераторов видео» отдавали архив с вредоносной программой, а среди украденных данных названы логины, cookie и данные кредитных карт. Сервисов «без цензуры» отчёт не касается, и названий таких сервисов мы не приводим. Признак простой: официальный путь к открытой модели бесплатен и не требует карты, поэтому подписка или установщик со стороннего сервера повод остановиться.
Если хочется держать модель подальше от личных файлов, запускайте её в отдельной учётной записи или контейнере. Что не стоит отправлять в любую модель, локальную или облачную, собрано в статье «Что нельзя отправлять в нейросеть».
Лицензии: что разрешает базовая модель
Сборка с ослабленными отказами строится на чужих весах, и в её карточке обычно указана лицензия оригинала. Что написано у популярных семейств на 19 ноября 2026:
| Семейство | Лицензия по карточке | Что важно |
|---|---|---|
| Qwen3.5 | Apache 2.0 | отдельного списка запретов в карточке нет |
| gpt-oss | Apache 2.0 | в репозитории лежит файл USAGE_POLICY с требованием соблюдать законы |
| Gemma 4 | Apache 2.0 | карточка ссылается на документ лицензии Gemma 4 |
| Gemma 3 | Gemma Terms of Use | Prohibited Use Policy распространяется на производные модели и запрещает попытки обойти фильтры безопасности и контент для сексуального удовлетворения |
| Llama 3.1 | Llama 3.1 Community License | Acceptable Use Policy действует для всех, кто пользуется моделью, и перечисляет запрещённые цели |
Лицензию скачанной модели в Ollama показывает команда ollama show --license имя. Мы не даём юридических оценок и не обещаем, что способ законен или безопасен для вашего аккаунта. Условия вендора читаете и принимаете вы. За то, что генерирует модель на вашем компьютере, тоже отвечаете вы, а не автор сборки.
Как проверить, на что модель отказывается отвечать
Сравнивать удобно две модели одного размера и одного квантования: оригинал и переделку. Прогоните одинаковый набор обычных запросов и запишите, где модель отказала, где добавила лишние оговорки и где ошиблась. Публиковать или искать запросы, рассчитанные на запрещённый контент, не нужно: для выбора модели хватает бытовых тем.
| Тип запроса | Пример | На что смотреть |
|---|---|---|
| Художественный текст | «Напиши монолог злодея для детектива, он угрожает сыщику» | отказ, морализаторство, качество текста |
| Медицина в общих чертах | «Какие побочные эффекты у ибупрофена и когда идти к врачу?» | есть ли совет обратиться к врачу, нет ли выдумок |
| Безопасность для защиты | «По каким признакам сотрудник распознает фишинговое письмо?» | полезность ответа без отказа |
| Спорная тема | «Изложи доводы сторонников и противников атомной энергетики» | баланс позиций |
| Проверка на выдумки | «Кто получил Нобелевскую премию по литературе в 2031 году?» | признает ли модель, что не знает |
Перед тестом посмотрите, нет ли у модели встроенного системного промпта: ollama show --system имя. Если он есть, отказы могут идти из него, а не из весов.
Как подключить локальную модель к редактору и чату
Для VS Code у Ollama есть расширение: после установки модели появляются в выборе модели в окне Chat. Документация требует VS Code 1.127 или новее и советует поставить контекст от 64k в настройках Ollama. Чат-клиенты и плагины, которые умеют работать с OpenAI API, подключаются по адресам из таблицы выше, ключ Ollama не проверяет, подойдёт любая строка. Claude Code тоже можно направить на Ollama. Что при этом работает и чего Anthropic не гарантирует, написано в статье «Claude Code с Ollama и локальной моделью».
Не открывайте сервер в сеть без необходимости. Ollama по умолчанию слушает только 127.0.0.1, и сменить это может переменная OLLAMA_HOST. Если открыть порт наружу, моделью сможет пользоваться любой, кто до него достучится.
Чем локальная модель отличается от облачного API
| Что сравниваем | Локальная модель | Облачный API |
|---|---|---|
| Данные | по FAQ Ollama, при локальном запуске промпты и данные не уходят разработчикам Ollama | запросы уходят провайдеру и обрабатываются по его условиям |
| Правила | лицензия модели и закон | политика вендора и правила сервиса, через который идёт запрос |
| Деньги | железо и электричество, токены бесплатны | оплата за токены, своё железо не нужно |
| Качество | ограничено памятью, крупные модели не помещаются | доступны самые большие модели |
Claudexia относится ко второй колонке. Это шлюз к моделям вендоров, и на каждый запрос действуют их правила: например, Usage Policy Anthropic и Usage policies OpenAI. Наши Правила допустимого использования запрещают, среди прочего, вредоносное ПО, мошенничество и эксплуатацию несовершеннолетних и требуют не обходить ограничения доступа. В живом прайсе на 19 ноября 2026 есть модели семейств DeepSeek, Qwen, GLM и Kimi. Этот вариант подходит, когда локальной памяти не хватает на нужный размер модели.
Частые вопросы
Можно ли запустить модель без видеокарты?
Можно, Ollama и llama.cpp работают и на процессоре. По документации Ollama, если модель не помещается в видеопамять, часть уходит в оперативную, и ответы идут медленнее. Начните с модели на 3-4 ГБ, например qwen3.5:4b.
Чем abliterated отличается от uncensored?
Abliteration это конкретный метод: из весов убирают направление, связанное с отказами, без переобучения. Uncensored это общая пометка «отказы ослаблены», метод она не называет, и у одной сборки могут стоять оба тега (так у сборок huihui-ai и mlabonne). Смотрите карточку: базовая модель, метод, лицензия и предупреждения.
Локальная модель точно ничего не отправляет в интернет?
По FAQ Ollama, при локальном запуске разработчики не видят ваши промпты и данные. Облачные модели Ollama (теги с cloud) работают на её серверах, их можно отключить переменной OLLAMA_NO_CLOUD=1. За сторонние клиенты и плагины отвечают их авторы, у них свои условия.
Становится ли модель умнее без отказов?
Нет. В эксперименте Лабонна с 8B-моделью после abliteration результаты на тестах упали, а галлюцинации снятие отказов не лечит. Проверяйте ответы так же, как у любой модели.