"Платформикс" спроектировал физический кластер для работы с генеративным ИИ в компании "Северсталь"

Созданы условия для работы с большими языковыми моделями и заложена технологическая основа для внедрения инструментов на базе искусственного интеллекта в бизнес-процессы компании. Системный интегратор "Платформикс" разработал архитектуру и создал высокопроизводительный вычислительный кластер для работы с большими языковыми моделями в компании "Северсталь".

Кластер предназначен для развертывания генеративного искусственного интеллекта на базе больших языковых моделей, чтобы в дальнейшем использовать его для встраивания в бизнес-процессы компании и решения практических задач. Эксперты "Платформикс" разработали масштабируемую архитектуру вычислительного кластера, обеспечивающего работу ИИ, в соответствии с лучшими практиками ведущих зарубежных компаний.

Спроектированная архитектура обеспечила полную совместимость компонентов, возможность дальнейшего масштабирования и высокую скорость инференса — применения обученных моделей искусственного интеллекта для решения практических задач бизнеса.

"Для нас данный проект был первым, где потребовалось решить задачу создания крупного физического вычислительного кластера для инференса LLM. Благодаря "Платформикс" мы не только в короткие сроки смогли сделать закупку и настройку оборудования, но и заложили фундамент для будущего масштабирования, которое также реализовываем с этим подрядчиком", прокомментировала Виктория Ефимова, владелец платформы генеративного ИИ "Северстали".

"Проект потребовал применения нестандартных подходов к поиску решения, обеспечивающего достижение целей заказчика. По итогам анализа всех возможных вариантов реализации в кратчайшие сроки было выбрано оптимальное решение", -отметил Евгений Илюшин, системный архитектор отдела комплексных решений "Платформикс".