Админ
Администратор
- Регистрация
- 24.02.18
- Сообщения
- 1.656
- Реакции
- 443
Оглавление- Что это и зачем нужно
- Преимущества локального AI
- Что нам понадобится
- Пошаговая установка
- Настройка и конфигурация
- Как пользоваться
- Советы и рекомендации
- Частые проблемы и их решение
- Заключение
Представьте, что у вас есть свой собственный ChatGPT, который:
Работает полностью локально — никаких запросов в интернет
Не имеет цензуры — пишет любой код без ограничений
Интегрирован в VS Code — редактирует файлы прямо в редакторе
Полностью бесплатен — не требует подписки
Работает офлайн — интернет не нужен после установки
- Разработки игр и читов
- Написания скриптов автоматизации
- Пентеста и анализа кода
- Работы с конфиденциальным кодом
- Обучения программированию
| Возможность | Локальный AI | ChatGPT/Claude |
|---|---|---|
| Цензура |  Отсутствует |  Жёсткая |
| Цена | Бесплатно |  Платная подписка |
| Конфиденциальность | Полная | Код уходит на сервер |
| Интернет | Не нужен | Требуется |
| Скорость | Мгновенная |  Зависит от сервера |
| Объём кода |  Не ограничен | Ограничен (контекст) |
| Интеграция |  VS Code, терминал | Ограничена |
Минимальные требования:
- Windows 10/11 (64-bit)
- Видеокарта: NVIDIA с 6+ ГБ VRAM (или процессор, но медленнее)
- Оперативная память: 8+ ГБ
- Свободное место: 15+ ГБ на SSD
- VS Code — редактор кода
- Ollama — «движок» для запуска моделей
- Continue — расширение для VS Code
- Модель — сама нейросеть (qwen2.5-coder:7b или gemma4:31b)
Шаг 1: Установка VS Code
- Перейди на официальный сайт: code.visualstudio.com
- Нажми Download for Windows
- Установи, нажимая «Далее»
- Отметь галочкой «Добавить в контекстное меню» (чтобы открывать папки правой кнопкой)
Ollama — это программа, которая:
- Запускает модели нейросетей
- Использует видеокарту для ускорения
- Работает как сервер на порту 11434
- Перейди на сайт: ollama.com
- Нажми Download
- Установи скачанный файл
- После установки в трее (возле часов) появится иконка
cmd
ollama --version
Шаг 3: Скачивание модели
Открой командную строку (Win + R → cmd) и введи одну из команд:
| Модель | Размер | Видеокарта |
|---|---|---|
| qwen2.5-coder:7b | 4.7 ГБ | 6+ ГБ VRAM |
| qwen2.5-coder:14b | 8.5 ГБ | 12+ ГБ VRAM |
| gemma4:31b | 19 ГБ | 16+ ГБ VRAM |
ollama pull qwen2.5-coder:7b
Дождись загрузки до 100%.
Проверка установленных моделей:
cmd
ollama list
Должна появиться модель в списке.
Шаг 4: Установка расширения Continue в VS Code
- Открой VS Code
- Нажми Ctrl + Shift + X (Extensions)
- В поиске введи: Continue
- Найди расширение от автора Continue (НЕ autodidact613!)
- Нажми Install
Ollama должен работать в фоне как сервер.
- Открой командную строку
- Введи:
ollama serve
Если пишет "bind: Only one usage" — значит сервер уже запущен, переходи к следующему шагу.
Настройка и конфигурация
Шаг 6: Настройка Continue
- В VS Code нажми на иконку Continue (серебряный логотип слева)
- Внизу панели нажми на шестерёнку (
) - Откроется файл конфигурации
json
{
"models": [
{
"title": "Qwen Coder 7B",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
],
"tabAutocompleteModel": {
"title": "Qwen Coder 7B",
"provider": "ollama",
"model": "qwen2.5-coder:7b"
}
}
Если файл config.yaml:
yaml
name: Local Config
version: 1.0.0
schema: v1
models:
- title: Qwen Coder 7B
provider: ollama
model: qwen2.5-coder:7b
tabAutocompleteModel:
title: Qwen Coder 7B
provider: ollama
model: qwen2.5-coder:7b
- Сохрани файл (Ctrl + S)
- Закрой и открой VS Code заново
- Открой панель Continue
- Внизу должен быть выпадающий список с моделями
- Выбери Qwen Coder 7B
Как пользоваться
Способ 1: Редактирование через Ctrl + I (быстрый)
Этот способ позволяет изменять код прямо в файле.
- Открой файл с кодом
- Выдели кусок кода (или ничего, если хочешь вставить новое)
- Нажми Ctrl + I
- Напиши запрос на русском, например:
- «перепиши эту функцию на асинхронную»
- «добавь логирование ошибок»
- «создай класс для работы с памятью»
- Нажми Enter — код изменится
- Нажми Ctrl + Shift + Enter чтобы принять изменения
- Открой панель Continue (слева)
- Напиши в чате: «Напиши класс для чтения памяти процесса»
- Модель сгенерирует код
- На блоке с кодом нажми «Insert at cursor» (стрелка вправо)
- Код вставится в твой открытый файл
- Открой папку проекта: File → Open Folder
- В чате Continue напиши @ и выбери файлы для контекста
- Напиши задачу: «Посмотри на структуру проекта и создай новый класс»
- Модель учтёт все твои файлы
Модель сама будет предлагать код во время набора. Просто начни писать, и появится подсказка.
Нажми Tab — код вставится.
Советы и рекомендации
1. Какие модели выбрать
| Задача | Рекомендуемая модель |
|---|---|
| Код, редактирование | qwen2.5-coder:7b или 14b |
| Мощная (большие проекты) | gemma4:31b |
| Быстрая (слабое железо) | qwen2.5-coder:1.5b |
| Читы и хаки | Любая локальная модель (нет цензуры) |
- Используй видеокарту — проверь в ollama ps, что модель использует GPU, а не CPU
- Добавь больше контекста — в настройках модели укажи num_ctx: 8192
- Закрой тяжелые приложения — освободи память для модели
- Будь конкретен: «напиши ESP для Rust» → «напиши отрисовку боксов игроков на ImGui»
- Добавляй контекст: показывай модели свои файлы через @
- Разбивай задачи: не проси «полный чит» сразу — проси по частям
Модель не появляется в списке ContinueПричина: Неправильный конфиг или левая версия Continue
Решение:
- Убедись, что автор расширения — Continue (не autodidact613)
- Проверь config.json или config.yaml
- Перезапусти VS Code
Ошибка "Invalid string length"Причина: Слишком длинный запрос или ошибка в JSON
Решение: Используй Ctrl + I для коротких правок, а в чате разбивай запрос на части.
Ollama не запускаетсяПричина: Порт 11434 занят
Решение:
cmd
netstat -ano | findstr 11434
taskkill /PID [номер] /F
Модель медленнаяПричина: Недостаточно видеопамяти
Решение:
- Используй более лёгкую модель: qwen2.5-coder:1.5b
- Закрой браузеры и тяжелые программы
- В настройках модели укажи num_ctx: 2048 (меньше контекста)
Continue пишет "Failed to parse config"Причина: Ошибка в синтаксисе YAML/JSON
Решение:
- Используй JSON вместо YAML
- Проверь, что нет лишних запятых
- Проверь отступы (только пробелы!)
Теперь у тебя есть:
- Полностью локальная нейросеть для кода
- Без цензуры и ограничений
- Бесплатно и без подписки
- Интегрирована в VS Code
- Работает офлайн
- Писать скрипты автоматизации
- Разрабатывать игры и читы
- Анализировать чужой код
- Изучать программирование с AI-помощником
- Автоматизировать рутинные задачи
БОНУС: Альтернативные инструменты| Инструмент | Тип | Особенности |
|---|---|---|
| Cursor | Отдельный редактор | Как VS Code, но с AI «из коробки» |
| Aider | CLI | Через терминал, видит всю папку |
| LM Studio | Приложение | Запуск моделей + чат |
Быстрый старт — чеклист- □
Установил VS Code - □
Установил Ollama - □
Скачал модель (ollama pull qwen2.5-coder:7b) - □
Установил расширение Continue - □
Настроил конфиг - □
Запустил Ollama (ollama serve) - □
Выбрал модель в Continue - □
Протестировал Ctrl + I
Вопросы и помощьЕсли что-то пошло не так:
- Проверь, что Ollama запущена (ollama ps)
- Проверь конфиг Continue
- Перезапусти VS Code
Бесплатный CLI-инструмент для редактирования кода через терминал.
Установка:
bash
pip install aider-chat
Запуск:
bash
aider --model ollama/qwen2.5-coder:7b
Что умеет:
- Редактирует файлы по запросу
- Работает с несколькими файлами
- Понимает структуру проекта
- Полностью бесплатный
ВНИМАНИЕ: Модель весит 22 ГБ! Загрузка может занять 30–60 минут в зависимости от скорости интернета.
Отличное