Ollama, llama.cpp, квантизация GGUF, QLoRA и PEFT — запусти и дообучи модель на собственном компьютере, без облака и переплат за API.
Каждый модуль приближает вас к финалу. Результат — модель, дообученная на ваших данных (QLoRA), сжатая в GGUF, запущенная локально через Ollama и подключённая к собственному API-серверу с локальным RAG.
Базовый Python и общее понимание, что такое LLM (промпты, вызов API). Курс начинается с установки Ollama и llama.cpp и пошагово ведёт до дообучения — без требований к мощному железу на старте.
Для запуска и квантования — любой компьютер с 8 ГБ RAM и выше (CPU достаточно). Для QLoRA-дообучения желательна видеокарта от 8 ГБ VRAM, но есть бонус-модуль про слабое железо и оптимизации для 4–8 ГБ.
Приватностью (данные не уходят на чужие серверы), предсказуемой ценой (не платите за каждый токен) и работой оффлайн. А ещё их можно дообучать под свои данные — что и делает этот курс.
Ollama, llama.cpp, GGUF, квантование, LoRA/QLoRA, PEFT, Unsloth, TRL, MLX, vLLM, оценку моделей, экспорт GGUF, OpenAI-совместимый API и локальный RAG. Плюс навыки дообучения — то, чего не хватает большинству курсов.
Соберёте дообученного ассистента: выберите модель под своё железо, квантуете её в GGUF, дообучите на своих данных через QLoRA, экспортируете в Ollama и поднимете свой API-сервер с локальным RAG.
Все 30 уроков, примеры кода, сквозной проект, обновления, сертификат об окончании и доступ навсегда. Цена 5 400 ₽.