Open WebUI + Ollama: своя локальная AI-студия для маркетинга

Зачем делать свой AI-чат

Когда у маркетолога десятки брифов, внутренних заметок и черновиков, хочется иметь привычный чат, в котором можно работать с собственной моделью и контролировать инфраструктуру. Open WebUI — интерфейс к моделям; Ollama — один из вариантов их локального запуска.

Важно: установка Open WebUI сама по себе не делает работу приватной. Если подключить облачный API, запросы уйдут этому провайдеру. Для действительно локального сценария нужна локально запущенная модель, сетевые ограничения и корректная настройка хранения данных.

Результат гайда: на localhost:3000 открывается локальный чат, выбранная модель обслуживается Ollama, тестовый маркетинговый бриф обрабатывается без обращения к внешней модели.

Шаг 1. Выбери сценарий

Вариант А — быстрый личный прототип: Docker + Open WebUI на своём компьютере, Ollama на том же компьютере. Не публикуй порт в интернет.

Вариант Б — командный сервер: отдельная защита доступа, HTTPS, настройки пользователей, резервное копирование тома и сетевые ограничения. Этот вариант требует администрирования; ниже собираем вариант А.

Проверь характеристики компьютера: локальные модели требуют память и вычислительные ресурсы; большая модель может работать медленно даже при успешной установке.

Шаг 2. Установи Ollama

Открой ollama.com, установи приложение для своей ОС и запусти небольшую подходящую модель из актуального каталога. Проверь в терминале, что ollama list показывает модель, а ollama run ИМЯ_МОДЕЛИ отвечает на простой запрос.

Если модель ещё не установлена, команда запуска предложит её загрузить. Размер и лицензия зависят от выбранной модели; не обещай доступность на любом устройстве.

Какую модель потянет твой компьютер

Локальная модель живёт в оперативной памяти, и от неё зависит выбор. На ноутбуке с 8 ГБ памяти спокойно работают небольшие модели на 3–4 миллиарда параметров: их хватает на черновики, пересказ и простые тексты. С 16 ГБ можно брать модели на 7–8 миллиардов, и для брифов и редактуры это уже заметно лучше. До уровня облачных ChatGPT или Claude локальная модель на обычном ноутбуке не дотянет, и стоит честно заложить это в ожидания.

Разумная схема для маркетолога: всё с данными клиентов — локально, обезличенные задачи со сложным анализом — в облако.

Рядом по теме: Локальная нейросеть или облако: таблица под твои задачи, Стресс-тест ассистента: поймай на выдумках и почини, Инструкция проекта: объяснил один раз — работает всегда, статья «Нейросети для работы по 20 профессиям» и Чат, агент или кодинг-агент: какой режим ИИ под задачу (бесплатно).