AI-инфраструктура HuaKun: станция, сервер или кластер?
Выбор локального инференса, PCIe, модульных платформ и кластеров по памяти, программной совместимости, параллельности и пилоту.
ПодробнееIT & TELECOM / SOFCON AZERBAIJAN
AI-серверы HuaKun
Серверы с ускорителями PCIe и отдельные модульные платформы инференса и обучения. SOFCONS подбирает конфигурацию по модели, памяти ускорителя, программному стеку и параллельной нагрузке.
Подготовить запрос
SOFCON AZERBAIJANТребования / решение / реализация
Модели и платформы
| Модель | Применение | Ключевые особенности |
|---|---|---|
| HuaKun AT800 (Model 3000)Данные производителя ↗ | Сервер Kunpeng для централизованного инференса с картами PCIe. |
|
| HuaKun AT225 Inference ServerДанные производителя ↗ | AT225: платформа на DDR4 для инференса с ускорителями PCIe. |
|
| HuaKun AT225 B2Данные производителя ↗ | Сервер инференса AT225 B2 для карт Atlas 300I Duo. |
|
| HuaKun AT525 B2Данные производителя ↗ | AI-платформа с оперативной памятью DDR5 и ускорителями PCIe. |
|
| HuaKun AT9508 G3Данные производителя ↗ | Платформа с ускорителями PCIe, также представленная как AT9508 G3 AI Server. |
|
| HuaKun AT3500 G3Данные производителя ↗ | Сервер инференса с модулями Ascend 910; в официальной документации также связан с названием AT548 Inference. |
|
| HuaKun AT548 Inference ServerДанные производителя ↗ | Конфигурация инференса AT548 с модулями A2G4, связанная с названием AT3500 G3. |
|
| HuaKun AT800 (Model 9000) A2Данные производителя ↗ | Модульная платформа обучения с зарубежным названием AT548 Training. |
|
| HuaKun AT548 Training ServerДанные производителя ↗ | Конфигурация обучения A2G3, связанная с названием AT800 (Model 9000) A2. |
|
Руководства по выбору
IT & Telecom01 02 03
От задачи к решению
Инференс на PCIe
AT225 и AT225 B2 — разные модели. AT225 использует DDR4; AT225 B2 поддерживает до шести Atlas 300I Duo. Для более крупных конфигураций PCIe сравнивают AT525 B2 и AT9508 G3 вместе с совместимостью карт, памятью хоста и сетью.
Инференс и обучение
Документы связывают AT548 Inference с AT3500 G3 и AT548 Training с AT800 (Model 9000) A2. Поколение модулей выбирается по точной документации модели. Для инференса важны задержка и параллельные запросы; для обучения также нужны потоки данных, контрольные точки и коллективные коммуникации.
Проверяйте приложение в пилоте
Подготовьте тест с точной версией модели, форматом числовой точности, длиной контекста и профилем пользователей. Среда выполнения ускорителя, операторы, контейнеры и средства мониторинга входят в конфигурацию; критерии приёмки задают для реальной нагрузки.
Опишите модель и профиль сервиса для сравнения PCIe и модульных платформ в подходящем пилоте.