Výběr platformy xFusion pro lokální AI
Porovnejte GB10, M495/M395, pracovní stanice a GPU servery podle softwarové kompatibility, paměti a praktického pilotu lokální AI.
1. Nejprve pracovní postup, pak zařízení
Lokální AI může znamenat experimenty vývojáře, vyhledávání týmu v neveřejných dokumentech nebo sdílenou inferenční službu. Popište postup, uživatele a zdroje dat. Interaktivní inferenci oddělte od dolaďování a trénování: mají jiné nároky na paměť, akcelerátory a plánování. Uveďte délku kontextu, přesnost, souběžné uživatele a povolené přesuny dat. Srovnání stolního systému a serveru se tak změní v konfigurační rozhodnutí, které lze ověřit pilotem.
2. GB10 a M495/M395 mají různá prostředí
FusionXpark GB10 spojuje NVIDIA Grace Blackwell s 20jádrovým CPU Arm, 128 GB sjednocené LPDDR5x a předinstalovaným DGX OS. Rodina FusionXpark M používá AMD/x86: M495 uvádí Ryzen AI Max+ PRO 495, Radeon 8065S a 192/128 GB paměti; M395 Ryzen AI Max+ 395, Radeon 8060S a 128 GB. Mezi publikované systémy patří Windows 11 a Ubuntu 24.04. Binární soubory aplikací, běhové prostředí modelů a ovladače ověřujte pro zvolenou architekturu; stolní systémy nejsou automaticky zaměnitelné.
3. Rozlišujte pracovní stanici a kancelářskou AI
FusionXtation X3 8000 a X3 8000 Gen2 jsou různé generace pracovních stanic. Pro technickou aplikaci posuzujte společně CPU, profesionální grafiku, osazení pamětí a certifikaci softwaru. TokenBox byl oznámen jako lokální řešení kancelářské AI, zatímco TokenBox A1 je samostatně uvedenou platformou v katalogu podpory. Pro každý si vyžádejte přesnou konfiguraci akcelerátorů a sestavu hardwaru. V nabídce vymezte provozní prostředí a aplikační rozsah. Určete, zda zařízení slouží jednomu technikovi, sdílené kancelářské službě nebo oběma účelům, jak se uživatelé připojují a jak se řídí přístup.
4. Určete přechod na GPU server
Sdílená služba může potřebovat GPU server, pokud ověřené nároky na paměť, souběh nebo integraci přesahují stolní návrh. G6550 V8 dokumentuje deset GPU dvojnásobné šířky v 6U, G8550 V8 šestnáct GPU v 10U. Přibývají požadavky na rack, napájení, proudění vzduchu, síť a provoz. Sjednocená stolní paměť a paměť serverových akcelerátorů jsou odlišné architektury. Kandidáty porovnávejte se stejným modelem, přesností a požadavky. Výsledky trénování, dolaďování a inference oddělujte a měřte přenos dat místo předpokladu nepřetržitého vytížení akcelerátorů.
5. Vymezte aplikační a licenční vrstvu
FusionOne AI přidává vrstvu výpočetních a modelových služeb a provozu včetně měření tokenů. Znalostní asistent potřebuje načítání dokumentů, oprávnění, hodnocení vyhledávání a integraci aplikace. Určete dodavatele modelu, běhového prostředí, konektorů a licencí a dohodněte aktualizace a podporu. U GB10 v nabídce potvrďte, zda je zahrnuta licence NVIDIA AI Enterprise, její dobu platnosti a práva užití. Publikovaný výpočetní údaj FP4 s řídkostí posuzujte odděleně od rychlosti odpovědí aplikace změřené v pilotu. Rozpočet a kritéria přejímky opřete o skutečnou licencovanou softwarovou sestavu a úlohu.
6. Rozhodněte podle pilotu
Použijte reprezentativní data a zaznamenejte úspěšné odpovědi i selhání. Před testem stanovte meze latence, souběhu, kvality a přístupu a zahrňte restart a obnovu. Užitečná poptávka obsahuje aplikaci, formát modelu, charakter dat, počet uživatelů a současné softwarové prostředí. SOFCONS z ní může připravit stolní, pracovní či serverovou konfiguraci a rozsah integrace. Tabulka odděluje vhodnost platformy od licencí a dává pilotu konkrétní cíl předání místo samostatného marketingového údaje. U každého výsledku pilotu uveďte také verzi softwaru.
| Rozhodnutí | Požadované podklady | Přejímka |
|---|---|---|
| Vhodnost platformy | Architektura, běhové prostředí a přesnost modelu | Aplikace funguje s dohodnutými závislostmi |
| Sdílené použití | Paměťové nároky, uživatelé a skladba požadavků | Kvalita a odezva při souběžné zátěži |
| Provozní rozsah | Licence, konektory, oprávnění a podpora | Dokumentované odpovědnosti, obnova a předání |
Naplánujte svou IT infrastrukturu
Proberme výběr serverů a platforem pro vaše aplikace, úlohy AI a požadavky datového centra.
Prozkoumat technologie
- FusionXpark GB10 ↗
- FusionXpark M Series ↗
- X3 8000 Gen2 ↗
- TokenBox™ A1 ↗
- TokenBox ↗
- G6550 V8 ↗
- G8550 V8 ↗
- FusionOne AI ↗
- FusionXpark GB10 — technický dokument ↗
- FusionXpark M Series — technický dokument ↗
- X3 8000 Gen2 — technický dokument ↗
- G6550 V8 — technický dokument ↗
- G8550 V8 — technický dokument ↗
- FusionOne AI — technický dokument ↗
Uvedení do praxe
Sladění návrhu racku, napájení a chlazení xFusion
Před potvrzením rackové konfigurace slaďte přesný server, revizi FusionPoD, napájecí šasi a okruh budovy.
Výběr softwarového stacku xFusion podle vrstev a verzí
Oddělte správu zařízení a serverového parku, operační systémy a úlohy a poté slaďte licence, podporu a integrační přejímku.