
Программно-аппаратный комплекс для работы с моделями ИИ
Программно-аппаратный комплекс (ПАК) Скала^р МБД.ИИ предназначен для использования в качестве инфраструктуры, на которой происходит дообучение и инференс моделей искусственного интеллекта.
В ПАК используются технологии распределенных вычислений, в том числе протокол NVLink с использованием платформ на 2, 4 или 8 графических процессоров (GPU), система прямого доступа к ресурсам RDMA, технологии GPUDirect и NVMeoF для обработки и передачи данных. Реализация сети интерконнекта с применением топологий Fat Tree, Hyperсube, DragonFly или классической архитектуры Leaf-Spine дает возможность более гибко масштабировать вычислительный кластер.
Скала^р МБД.ИИ поддерживает многие фреймворки машинного обучения, в частности TensorFlow, PyTorch, Keras. Для ПАК подтверждена работа различных платформ и моделей машинного обучения, в том числе Cotype, Scibox, DeepSeek и LlamA. Для устранения галлюцинаций, моделей удержания контекста и работы с данными в периметре ПАК применяются RAG-платформы.
С помощью решения возможно обучение большой языковой модели размером до 188 млрд параметров.
По заявлениям разработчиков, с помощью ПАК возможно создание инфраструктуры для работы ИИ с производительностью до 1,5 петафлопса на вычислительный кластер.
ПАК может устанавливаться как локально (по модели On-Premise), так и в составе частных и гибридных облачных систем.
ПАК Скала^р МБД.ИИ был представлен компанией Скала^р (входит в группу компаний Rubytech) в марте 2025 года.
#искусственный_интеллект#генеративный_ИИ#нейросети#машинное_обучение
Разработчик:Нажимая на кнопку, вы соглашаетесь с политикой конфиденциальности
ICT.Moscow — открытая площадка о цифровых технологиях в Москве. Мы создаем наиболее полную картину развития рынка технологий в городе и за его пределами, помогаем бизнесу следить за главными трендами, не упускать возможности и находить новых партнеров.