HuaKun AI infrastrukturu: iş stansiyası, server, yoxsa klaster?
Lokal model icrası, PCIe sürətləndiricilər, modullu platformalar və klasterlər arasında seçim: yaddaş, proqram uyğunluğu, paralellik və pilot.
ƏtraflıPCIe sürətləndirici serverləri və ayrıca modullu model icrası və təlim platformaları. SOFCONS model, sürətləndirici yaddaşı, proqram steki və paralel yükə uyğun konfiqurasiyanı dəqiqləşdirir.
Sorğu hazırlayın
| Model | Tətbiq sahələri | Əsas xüsusiyyətlər |
|---|---|---|
| HuaKun AT800 (Model 3000)İstehsalçı məlumatları ↗ | PCIe kartları ilə mərkəzləşdirilmiş model icrası üçün Kunpeng serveri. |
|
| HuaKun AT225 Inference Serverİstehsalçı məlumatları ↗ | AT225: DDR4 əsaslı PCIe model icrası platforması. |
|
| HuaKun AT225 B2İstehsalçı məlumatları ↗ | Atlas 300I Duo kartları üçün AT225 B2 model icrası serveri. |
|
| HuaKun AT525 B2İstehsalçı məlumatları ↗ | DDR5 əsas serverin operativ yaddaşı və PCIe sürətləndiriciləri olan AI platforması. |
|
| HuaKun AT9508 G3İstehsalçı məlumatları ↗ | AT9508 G3 AI Server adı ilə də təqdim olunan PCIe sürətləndirici platforması. |
|
| HuaKun AT3500 G3İstehsalçı məlumatları ↗ | Rəsmi kataloqda AT548 Inference adı ilə də əlaqələndirilən, Ascend 910 modullu model icrası serveri. |
|
| HuaKun AT548 Inference Serverİstehsalçı məlumatları ↗ | AT3500 G3 adı ilə əlaqələndirilən, A2G4 modullu AT548 model icrası konfiqurasiyası. |
|
| HuaKun AT800 (Model 9000) A2İstehsalçı məlumatları ↗ | Xarici bazar adı AT548 Training olan modullu model təlimi platforması. |
|
| HuaKun AT548 Training Serverİstehsalçı məlumatları ↗ | AT800 (Model 9000) A2 adı ilə əlaqələndirilən A2G3 model təlimi konfiqurasiyası. |
|
Lokal model icrası, PCIe sürətləndiricilər, modullu platformalar və klasterlər arasında seçim: yaddaş, proqram uyğunluğu, paralellik və pilot.
ƏtraflıAT225 və AT225 B2 ayrıca modellərdir. AT225 DDR4 əsaslıdır; AT225 B2 isə altıyadək Atlas 300I Duo kartı üçün nəzərdə tutulub. Daha böyük PCIe quruluşlarında AT525 B2 və AT9508 G3 kart uyğunluğu, əsas serverin operativ yaddaşı və şəbəkə tələbləri ilə birlikdə müqayisə edilir.
AT548 Inference/AT3500 G3 və AT548 Training/AT800 (Model 9000) A2 ad əlaqələri rəsmi sənədlərdə göstərilir. Modul nəsli dəqiq model sənədi ilə seçilir. Model icrası üçün gecikmə və paralel sorğular, təlim üçün isə məlumat axını, yoxlama nöqtələri və kollektiv rabitə əsasdır.
Dəqiq model versiyası, ədədi dəqiqlik formatı, kontekst uzunluğu və istifadəçi profili ilə sınaq hazırlayın. Sürətləndiricinin icra mühiti, operatorlar, konteynerlər və monitorinq vasitələri konfiqurasiyaya daxil edilir; qəbul meyarları real iş yükü üçün razılaşdırılır.
Modelinizi və xidmət profilini paylaşın; kartlı və modullu platformaları uyğun pilot üzrə müqayisə edək.
İnfrastruktur, inteqrasiya və ya proqram təminatı: məqsəd və ilkin məlumatlarla başlayaq.
Sorğu hazırlayın