Материалы к Уроку: Запусти самый мощный ИИ локально (Ollama)

Что ты научишься делать

Конкретный результат после видео

Запускать мощные модели локально - бесплатно, оффлайн, приватно. Их уже не отнимут.

Подбирать модель точно под своё железо - Claude сам подскажет, что потянет.

Поднять локальный клон NotebookLM и чатить по своим документам без Google.

Роутить задачи между моделями и срезать расходы на подписки до 99%.

Что понадобится

Всё бесплатное

Ollamaдвижок локальных моделейБесплатно

Claude Desktopвыполняет команды за тебяОпц.

open-notebookклон NotebookLM, open sourceБесплатно

OpenRouterодин ключ ко всем моделямОпц.

Часть 1 · Локальная модель

Запускаем ИИ на своём ПК

Три простых шага: оценил железо - скачал модель - подключил. Дальше работает оффлайн и бесплатно.

Узнай потолок своего железа

Чем больше оперативки - тем умнее модель ты запустишь. Сначала смотрим, что тянет твой ПК.

Жми: Пуск → Параметры → Система → О системе
Сделай скриншот - видно RAM, процессор, видюху
Открой Claude Desktop, вставь скрин и задай промпт ниже

💬 Промпт - какую модель запустить

Вот характеристики моего компа. Какую локальную модель мне лучше запустить, самую мощную, что пойдёт на этом железе с нормальной скоростью?

Запас памяти: если свободно 20 ГБ - не качай модель ровно на 20. Всегда оставляй буфер сверху. Лучше скачать пару моделей и понять, что зайдёт.

8 ГБ	Qwen3 8B - базовый чат	~5 ГБ
16 ГБ	Gemma 2 12B - зрение + чат	7.6 ГБ
24 ГБ	Qwen3.6 35B - сочная зона	24 ГБ
64 ГБ+	gpt-oss-120b	65 ГБ
256 ГБ+	GLM 5.2 / Qwen-Coder - фронтир	290 ГБ

Окупаемость: тратишь больше $200/мес на облако? Локальный комп окупается за 2-3 года, дальше ~$3/мес электричества. Железо - это вложение, а не трата.

Поставь Ollama

Это движок, на котором крутятся локальные модели. Самый простой и удобный вход.

Зайди на ollama.com → жми «Download Ollama» (или поставь командой)
Терминал звучит страшно, но это просто чат-окно с компом - не парься
После установки открой приложение Ollama

⌨️ Команда (PowerShell) - если ставишь через терминал

irm https://ollama.com/install.ps1 | iex

Установи модель через Claude Desktop

Можно поручить установку самому Claude - он проверит, что Ollama стоит, и выдаст готовую команду.

Открой Claude Desktop, напиши промпт ниже
Claude выдаст команду - жми запустить (или вставь сам в терминал)

💬 Промпт - попросить команду установки

Хочу поставить локальную модель Gemma 2 9b для демонстрации. Дай команду, которую надо выполнить в терминале, чтобы её установить.

⌨️ Команда - что выдаст Claude

ollama pull gemma2:9b ollama run gemma2:9b

Болтай с локальной моделью

Модель скачалась - пользуйся. Работает прямо на твоём ПК, без интернета, бесплатно.

Открой приложение Ollama → выбери gemma2:9b в выпадающем списке
Пиши любой вопрос - отвечает локально, оффлайн, $0 за токен

Model-agnostic: не привязывайся к одной компании. Бери лучшую модель под конкретную задачу - топ меняется, ты просто переходишь.

Часть 2 · Карта моделей

Лучшие модели и роутинг

Что вообще есть в мире локальных и дешёвых моделей - и как раскидывать задачи, чтобы не переплачивать.

Лучшие модели на сегодня

Ориентир, что под что брать.

Gemma 2 - универсал от Google, встроенное зрение, идеально под 16 ГБ
Qwen 3.6 - лучшая универсалка + агентный кодинг (24 ГБ)
gpt-oss - лучший компактный думатель
GLM 5.2 - король открытых, идёт вровень с Fable 5 (нужен сервер)
DeepSeek V4 Flash - #1 на OpenRouter, ~$0.10 за 1М токенов, 190 ток/сек

GLM 5.2 уже догнала Claude Fable 5. Через год всё это будет крутиться хоть на обычном ноуте - навык запускать локалки осваивай сейчас, это задел на будущее.

Роутинг моделей - не переплачивай

Бери лучшую модель под каждую задачу. DeepSeek V4 = 95% качества за 1% цены.

Чёрный труд в коде → Codex
Длинный контекст → Gemini
Дизайн и вкус → Claude
Ресёрч и веб → Perplexity
Приватное и конфиденциальное → локалка

Перекрёстная проверка: не выкатывай важное, пока не прогонишь через другую модель (Codex / Gemini). Часто ловят косяк, который Claude пропустил.

OpenRouter: привязываешь один API-ключ и получаешь доступ почти ко всем моделям мира сразу - удобно сравнивать и роутить.

Часть 3 · Локальный NotebookLM

Клонируем платный софт за ноль

open-notebook - open source версия NotebookLM. Документы не уходят в Google, подключаешь любую модель, лимитов нет.

Подними локальный клон NotebookLM

Claude сам клонирует репозиторий, ставит зависимости, поднимает базу и запускает на localhost.

Зайди на github.com/lfnovo/open-notebook
Жми зелёную кнопку «Code» → скопируй ссылку
Иди в Claude Desktop и попроси клонировать + запустить (промпт ниже)
Через пару минут открывай localhost - готовый клон у тебя на ПК

💬 Промпт - клон и запуск

Склонируй этот репозиторий, пожалуйста. Запусти его локально на localhost. Вот ссылка: https://github.com/lfnovo/open-notebook

Подключи модель, источники и кастомизируй

Цепляем свою локальную модель, грузим источники, чатим по ним, меняем дизайн - всё через Claude.

Переключи модель и добавь эмбеддинг (промпт ниже)
Источники → Создать → вставь URL (свой сайт / документ) → индексируется
Создай блокнот, добавь источник, задавай вопросы. Можно собрать подкаст
Один проиндексированный источник используешь сразу в разных блокнотах

💬 Промпт - сменить модель + эмбеддинг

Слушай, дружище, можешь поменять мне модель на Gemma 2, которая у меня уже установлена. И установи какую-нибудь модель эмбеддинга на Ollama и загрузи это в open-notebook, чтобы текст правильно читался.

💬 Промпт - поменять цвет интерфейса

Не нравится синий цвет. Замени его на жёлтый.

Хочешь максимум качества? Воткни API-ключ облачной модели (например Opus 4.8) - но и на локальной всё работает бесплатно.

🔗 Все ссылки в одном месте