Пост🤩😀 Как устроена Машина искусственного интеллекта Скала^р

🤩😀 Как устроена Машина искусственного интеллекта Скала^р ИИ-инфраструктура — это «слоеный пирог» из ускорителей, драйверов, контейнерной среды, моделей и систем управления. Каждый стык нужно верифицировать и задокументировать. 🤩 Нижние слои отвечают за стабильность и производительность, верхние — за профиль нагрузки. TAdviser разобрал этот комплекс на примере Машины искусственного интеллекта Скала^р от Группы Rubytech. 🤩 Вычислительные узлы и сеть Сайзинг начинается с метрик будущего сервиса. Кластер можно масштабировать от одного GPU-узла до 16 узлов полного цикла — по мере роста нагрузки. 🤩 Системное ПО Приоритетная ОС — «Ред ОС», также подтверждена Astra Linux. Контейнерный кластер — на Deckhouse Kubernetes Platform. Обновления проверяются сразу в составе всего комплекса. 🤩 Управление ресурсами Скала^р Спектр ИИ распределяет ресурсы между командами и изолирует задачи, повышая утилизацию GPU до 70–85% при подходящем профиле нагрузки (против 30–40% у разрозненных узлов). 🤩 Модели и прикладные инструменты Машина протестирована с 80+ LLM и десятками ИИ-инструментов: GigaChat, YandexGPT, Qwen, Llama, DeepSeek, Mistral и другими. Через каталог Спектр ИИ доступны RAG-системы, OCR/VLM, транскрибация и агентские платформы. 🤩 Такой подход позволяет наращивать ресурсы и набор инструментов по мере роста ИИ-задач — без полной перестройки инфраструктуры.