Внутренний ChatGPT: как дать сотрудникам ИИ и не отдать данные наружу
«Нам нейросети не нужны» — фраза, которая почти всегда означает, что ими уже пользуются, просто без вашего ведома. Менеджеры прогоняют через чат-бота коммерческие предложения, разработчики — куски рабочего кода, юристы — черновики договоров. Делают это через личные аккаунты и обходные каналы, потому что корпоративного доступа нет: ни OpenAI, ни Anthropic не обслуживают Россию — подписку не оплатить легально, а вход закрыт по региону. В итоге компания получает худший из возможных расклад: пользу от ИИ никто не измеряет, а данные уже утекают.
Open WebUI — открытый веб-интерфейс для языковых моделей, который ставится на ваш сервер. Выглядит он как ChatGPT: список чатов слева, поле ввода, история, папки, общие наборы промптов. Разница в том, что происходит за интерфейсом: сотрудники входят через корпоративный логин, администратор управляет ролями и группами, а каждый запрос остаётся в вашем журнале. Сам интерфейс не содержит модели — он только приводит к ней пользователей, и поэтому выбор модели остаётся за вами.
Первый путь — модель на вашем оборудовании. Открытые модели давно догнали коммерческие в типовых рабочих задачах: Qwen, DeepSeek, Mistral, Gemma и Llama доступны для загрузки, а для русского языка есть отечественные открытые модели — например T-lite и T-pro от Т-Банка. Запускают их через Ollama (проще) или vLLM (быстрее под нагрузкой). Ориентир по железу такой: модель на 7–14 миллиардов параметров живёт на одной карте с 24 ГБ видеопамяти и обслуживает отдел; модели на 30–70 миллиардов требуют 48–160 ГБ, то есть нескольких карт или отдельного сервера. Такой контур полностью автономен — он работает вообще без интернета, что для закрытых сегментов часто единственный допустимый вариант.
Второй путь — API российского провайдера. Если покупать видеокарты нецелесообразно, Open WebUI подключается к любому API, совместимому с OpenAI, — так к нему приводят YandexGPT в Yandex Cloud или GigaChat от Сбера. Вы платите за использование в рублях по обычному договору, ничего не обходите, а данные остаются в российской юрисдикции. Модель при этом чужая, поэтому на практике мы часто комбинируем: чувствительное — на своей модели внутри контура, остальное — через API, где дешевле и мощнее.
Отдельная ценность появляется, когда к модели подключают ваши документы. Open WebUI индексирует регламенты, инструкции, техническую документацию и договоры и затем отвечает по ним со ссылками на источник. Вопрос «как оформить командировку по нашему регламенту» перестаёт быть походом к кадровику, а новый сотрудник получает ответы, не отвлекая коллег неделю.
Мы делаем это под ключ: разбираем задачи и подбираем модель, считаем конфигурацию серверов или стоимость API, разворачиваем Open WebUI с единым входом через Keycloak, настраиваем разграничение доступа, журналирование и резервное копирование, обучаем сотрудников и администраторов. Напишите нам через страницу контактов — покажем интерфейс и посчитаем, что выгоднее в вашем случае: своя видеокарта или API.