ПАК ИИ по слоям: как устроена Машина искусственного интеллекта Скала^р

Промышленная ИИ-инфраструктура редко ограничивается одним сервером. К ускорителям добавляются драйверы, контейнерная среда, модели, системы управления и многое другое. Каждый компонент формирует стык, который нужно проработать, верифицировать и задокументировать. А в промышленной инсталляции таких стыков десятки, сотни, тысячи. Редакция аналитического портала TAdviser разбирает этот «слоеный пирог» на примере Машины искусственного интеллекта Скала^р МИИ от Группы Rubytech.

Почему ИИ-инфраструктуру сложно собирать по частям

На первых этапах адаптации ИИ-технологий компании часто выделяют GPU-сервер под отдельный ИИ-проект. Свободная мощность остается в его контуре, а под следующую задачу закупают новое оборудование. По данным Группы Rubytech, в типовой инсталляции из разрозненных узлов утилизация GPU не превышает 30–40%.

С ростом числа проектов множатся аппаратные и программные стеки. Пока контуры работают отдельно, различия не мешают. Проблемы начинаются при объединении ресурсов, масштабировании и переносе моделей. К этому добавляется риск зависимости от западного стека технологий.

Снять эту зависимость помогают альтернативные ускорители, но и здесь есть ограничения, которые важно учитывать заранее. Узел на альтернативных GPU можно включить в ИТ-инфраструктуру как отдельный стек, однако объединить разные ускорители в единый ресурсный пул для исполнения одной задачи пока нельзя. Требуется поэтапная миграция с четким ресурсным планированием под сервисы и функции ИИ-ландшафта.

ПАК переносит проверку всего стека на разработчика комплекса. Тот подбирает конфигурацию, тестирует зависимости и выпускает обновления пакетно. Заказчик получает единое окно поддержки, но сам отвечает за данные, прикладное решение и регулярность обновлений.

Чем ПАК для ИИ отличается от классического

В традиционном ПАК проверяют совместимость серверов, BIOS, ОС и драйверов. В ПАК для ИИ к ним добавляется еще несколько уровней: ML- и LLM-модели, среды разработки, агентские платформы и другие инструменты.

Компоненты проходят нагрузочное тестирование на целевых сценариях — при инференсе, дообучении и обучении. Модель может корректно запуститься, но не обеспечить нужную скорость ответа или неэффективно использовать GPU. Формальной совместимости здесь недостаточно.

В Машине ИИ Скала^р этот стек описывают как «слоеный пирог». Нижние слои обеспечивают непрерывность и заданное быстродействие вычислений, верхние задают профиль нагрузки: модель, число пользователей, допустимую задержку и требования к данным. Отправной точкой служит будущий сервис, а не каталог серверов.

«Мы поставляем готовый комплекс, собранный по выверенной архитектуре. Верхние слои определяют, как должно быть устроено оборудование, как им управлять, какие библиотеки оно должно поддерживать, а самое главное — каким метрикам эффективности соответствовать», — объясняет Антон Юдин, руководитель направления ИИ-инфраструктуры Скала^р, Группа Rubytech.

Первый фильтр при отборе — технический анализ и реестровый статус. Затем российские решения сопоставляют с зарубежными аналогами, испытывают на ИИ-нагрузках и оценивают сроки поставки.

Разбираем пирог на слои

У каждого слоя своя задача, но итоговый результат определяют все связи внутри продукта — технологические, нормативные и коммерческие.

Первый слой: вычислительные узлы и сеть

Состав первого слоя диктует нагрузка. Если корпоративный ассистент отвечает через две минуты вместо требуемых пяти секунд, формально работающая модель не решает задачу. Поэтому сайзинг начинается с метрик будущего сервиса.

Вычислительный контур включает GPU-узлы, управляющие серверы, хранилище и несколько сетей. Система обслуживания и управления Скала^р Геном отслеживает состояние Машины и управляет ею. Размерность ИИ-кластера в ПАК ИИ — от одного GPU-узла для тестов до 16 узлов полного цикла. Вместе с мощностью повышаются требования к межузловому обмену: при росте ИИ-кластера добавить GPU недостаточно.

«Конфигурации проверяются под нагрузками, в том числе совместно с производителями оборудования. Например, при валидации платформы YADRO наша команда протестировала отсутствовавший в каталоге поставщика узел с установленными в нем шестью GPU. Испытания подтвердили работоспособность такой конфигурации, затем YADRO провела собственную проверку и начала поставлять их заказчикам», — говорит Алексей Павлов, ведущий архитектор ИИ-платформы Скала^р, Группа Rubytech.

Тот же подход применяют к альтернативным ускорителям. В августе 2026 года специалисты Группы Rubytech запустили модель Cotype 3 от MWS AI на конфигурации с китайскими GPU. Тест подтвердил работоспособность отдельного альтернативного стека. Объединять его с основным контуром в одном пуле нельзя, но результаты можно использовать при планировании миграции. По сути, Группа Rubytech разработала методологию, которая позволяет включать в состав продукта любые программные и аппаратные средства для инференса LLM, прошедшие валидацию.

Второй слой: системное программное обеспечение

На следующем слое аппаратный контур становится средой для запуска моделей: ОС работает с драйверами и прошивками, контейнерная платформа собирает узлы в кластер. Приоритетной ОС остается «РЕД ОС»; Astra Linux подтверждена для существующих инфраструктур. Контейнерный кластер строят на Deckhouse Kubernetes Platform.

Именно здесь особенно заметна проблема совместимости: обновление драйвера или ОС способно затронуть контейнерную среду и модели. Поэтому новые версии проверяют в составе всего комплекса, прежде чем выпустить пакетное обновление. Отдельное внимание уделяется требованиям к образу, который содержит задачу и запускается на Машине ИИ.

Третий слой: управление ресурсами и задачами

Даже правильно собранного и настроенного кластера недостаточно для эффективной работы с ИИ. Быстрый запуск модели или прикладной задачи, которой требуется GPU, распределение ресурса карт между нагрузками, управление очередностью выполнения, а также сбор метрик необходимы любой организации. Эту работу берет на себя Скала^р Спектр ИИ — собственная программная платформа Группы Rubytech.

Решение позволяет нескольким командам одновременно работать на общей инфраструктуре, обеспечивая прозрачную среду использования ПАК. Задачи остаются изолированными, а освободившиеся мощности получает следующий проект.

По данным Группы Rubytech, при подходящем профиле нагрузки такая оркестрация повышает утилизацию GPU до 70–85% против 30–40% у разрозненных узлов.

«Спектр ИИ — каркас комплекса. Платформа обеспечивает развертывание моделей и сервисов, позволяет применять политики безопасности и управлять как непосредственно ресурсом GPU, так и полезной нагрузкой. Без нее ту же работу пришлось бы выполнять вручную: настраивать среду и каждый раз проверять зависимости между компонентами», — объясняет Вадим Солдатов, директор по ИИ-продуктам Скала^р, Группа Rubytech.

Четвертый слой: модели и прикладные инструменты

ПАК дает среду для прикладного решения. Заказчик или интегратор обеспечивает подготовку данных, выбирает модель, создает интерфейс и встраивает результат в бизнес-процесс. Объем доработок зависит от структуры данных и выбранного сценария.

Машина искусственного интеллекта Скала^р протестирована с более чем 80 LLM разных версий и десятками ИИ-инструментов. В их числе — как лицензируемые модели российских ИТ-лидеров, среди которых GigaChat, YandexGPT и Cotype, так и популярные семейства Оpen Source: Qwen, Llama, DeepSeek, Mistral и другие. В каталоге системы управления ПАК Спектр ИИ могут быть собраны как сами LLM — для чатов и ассистентов, — так и готовые ИИ-приложения: RAG-системы, сервисы распознавания OCR/VLM, транскрибации, агентские платформы. Они запускаются без сложной ручной настройки: среду готовят один раз, а не под каждую задачу. Это заметно упрощает и администрирование инфраструктуры, и управление ИИ-сервисами. Конкретный сценарий дорабатывают под данные и процессы компании.

Задел на развитие: данные, исследования и подготовка специалистов

Модули хранения, преобразования и передачи данных можно включать в комплекс уже сейчас, а в дальнейшем — добавлять «из меню» при проектировании решения на ПАК МИИ, чтобы искать узкие места на всем маршруте прохождения данных. Отдельное направление — сотрудничество с университетами: МФТИ, ВШЭ, ИТМО и другими вузами. Исследовательские центры могут создавать прикладные решения, а команда Скала^р — адаптировать и валидировать их для запуска с использованием ресурсов ПАК. Студенты на практике и стажировках разбираются во всех слоях — от вычислительных узлов до прикладных сервисов — и работают с реальными задачами. Эксперты компании, в свою очередь, участвуют в образовательных программах и исследованиях.

«Совместно с ведущими университетами в области развития ИИ-компетенций ведется работа по применению передовых технологий для задач искусственного интеллекта, тестированию новых моделей ML/LLM для различных отраслей, формируется сильная академическая база. Мы дополняем ее опытом построения и эксплуатации промышленной ИИ-инфраструктуры. Такое взаимодействие позволяет смотреть на развитие отрасли на несколько лет вперед и заранее прорабатывать задачи, с которыми большинство компаний столкнется позднее. Одновременно это возможность привлекать в команду сильных молодых специалистов», — говорит Марина Онищенко, руководитель по развитию ИИ-технологий и партнерских решений Скала^р, Группа Rubytech.

«Слоеный пирог» изначально собирается с заделом на развитие. Поддержка разных моделей и аппаратных стеков, возможность добавлять вычислительные узлы и расширять набор инструментов на старте могут выглядеть избыточными. Однако их ценность раскрывается по мере того, как в компании появляется больше ИИ-задач, пользователей и требований к инфраструктуре. Как показывает практика, такой запас позволяет внедрять технологии постепенно, без полной перестройки уже работающей системы.