Biranje između 400G NIC-a i 800G NIC-a je odluka o strukturi, a ne usporedba-stranice za plaćanje. Brži adapter se isplati samo kada poslužitelj, preklopnik, optika i kablovi mogu prenijeti tu brzinu od kraja do kraja. Ovaj vodič razmatra kompromis-iz kuta implementacije i nabave, tako da možete odlučiti prije nego što posvetite proračun adapterima, sklopkama, primopredajnicima, DAC-ovima, AOC-ovima, AEC-ovima ili vlaknima.
Kratka verzija: 400G NIC je zrela,-efikasna zadana za većinu današnjih AI, HPC, pohrane i radnih opterećenja u oblaku, i čisto se preslikava na NDR InfiniBand i PCIe Gen5 hostove. NIC od 800G zarađuje svoju premiju kada gradite AI strukturu sljedeće-generacije s gušćim GPU-ovima, gustim istočno-zapadnim prometom i planom prema XDR InfiniBandu, 800G Ethernetu i na kraju 1.6T.
400G protiv 800G NIC
Odaberite 400G NIC kada su vaši poslužitelji, preklopnici i optički uređaji već standardizirani na 400G Ethernet ili NDR InfiniBand ili kada radno opterećenje ne zasiti svaki GPU-do-GPU put. To je također sigurniji poziv kada su dostupnost, proračun i vrijeme kvalifikacije važniji od vršne brzine priključka.
Odaberite 800G NIC kada mreža postaje usko grlo za-obuku velikih razmjera, GPU poslužitelje visoke-gustoće ili akceleratore sljedeće-generacije. Otprilike prepolovljuje broj veza i optičkih modula potrebnih za određenu količinu propusnosti i priprema strukturu za sljedeću nadogradnju.
800G priključak vrijedi kupiti samo kada ga ostatak sustava može hraniti. Ako glavno računalo ne može izložiti dovoljno PCIe traka adapteru, 800G NIC postaje skup, nedovoljno iskorišten port, a ne nadogradnja performansi.
Što je 400G NIC?
400G NIC je mrežni adapter koji prenosi do 400 gigabita u sekundi po priključku. U AI i HPC okruženjima upravlja umrežavanjem GPU-klastera, distribuiranom obukom, pristupom pohrani, MPI prometom, RoCE tkaninama i NDR InfiniBand vezama. Za većinu operatera, 400G je već veliki skok u odnosu na 100G ili 200G i uklanja očita uska grla bez prisiljavanja na redizajn poslužitelja i razina prebacivanja.
Gdje danas odgovaraju 400G NIC-ovi
Adapteri od 400G radni su zadani u klasterima za obuku AI-a na GPU-ovima trenutne-generacije, HPC i znanstvenim-računalnim mrežama, mrežama za pohranu visokih-performansi, RoCEv2 Ethernet i InfiniBand tkaninama, općim flotama poslužitelja u oblaku i 100G/200G-na-400G nadogradnjama u sobama mješovite generacije. U ovim postavkama 400G rijetko je kompromis. To je jednostavno prava klasa brzine kada veličina klastera, broj GPU-a i proračun ne opravdavaju dodatnu složenost od 800G.
Zašto 400G još uvijek ima smisla
Odabir NIC-a je-problem ravnoteže sustava. Ako glavno računalo ne može napajati 800G adapter, ako je radno opterećenje vezano za računanje- ili pohranu-ili ako je kralježnica još uvijek 400G, tada izbacivanje 800G NIC-a povećava troškove bez promjene performansi aplikacije. Dobro-izgrađena 400G tkanina, s malom prekomjernom pretplatom, čistom topologijom, RDMA, kvalitetnom optikom i podešenom kontrolom zagušenja, još uvijek udobno obavlja zahtjevne AI i HPC poslove.
Što je 800G NIC?
800G NIC isporučuje do 800 gigabita u sekundi po priključku. Usmjeren je na podatkovne centre s umjetnom inteligencijom sljedeće{3}}generacije, velike GPU klastere i hiperrazmjerne strukture gdje komunikacijska potražnja nadmašuje konvencionalno umrežavanje poslužitelja. Generacija 800G sada je standardizirana:standard IEEE 802.3df, ratificiran 2024, definira 800 Gigabit Ethernet i podržava pod-brzine kao što su 1x800G, 2x400G i 8x100G, što čini migraciju mješovite-brzine praktičnom.
Vrijednost nije samo udvostručena stopa naslova. 800G omogućuje arhitektima povećanje gustoće propusnosti, smanjenje broja veza i modula i podršku za veće strukture obuke s agresivnijim prometom od svih-za-svih.
Zašto AI klasteri prelaze na 800G
Obuka velikog-modela stvara ogroman GPU-na-GPU i poslužitelj-na-promet. Razmjena gradijenata, sve-smanjenje, mješavina--stručnjaka za usmjeravanje, određivanje kontrolnih točaka i pohranjivanje-teških cjevovoda, sve to udara u strukturu. Kako akceleratori postaju brži, mreža mora držati tempo ili skupi GPU-ovi miruju čekajući na sinkronizaciju. 800G NIC-ovi odgovaraju na to povećanjem propusnosti po čvoru, po akceleratoru ili po mrežnoj tračnici.
800G je odluka o tkanini, a ne samo adapter
Prelazak na 800G preoblikuje odabir prekidača, optiku, planiranje dometa, toplinski dizajn, protok zraka i raspored polica. Optički i bakreni izbori posebno postaju stroži: 800G port može koristiti OSFP ili QSFP-DD modul, a moduli na -strani prekidača i NIC-strani mogu se razlikovati u toplinskom i mehaničkom dizajnu čak i pri istoj stopi. Ako vaše postrojenje koristi strukturirana vlakna, rano potvrdite tipove modula i konektora; našepregled faktora oblika QSFP-DDpokriva tamo gdje odgovara u odnosu na OSFP. Tretirajte 800G kao program na-razini strukture, a ne kao zamjenu jedne-stavke retka.
400G NIC u odnosu na 800G NIC
| Faktor | 400G NIC | 800G NIC | Što provjeriti prije kupnje |
|---|---|---|---|
| Brzina-po portu | Do 400 Gb/s | Do 800 Gb/s | Je li radno opterećenje zapravo-vezano za mrežu |
| Zrelost implementacije | Široko raspoređen, širok ekosustav | Noviji, više{0}}ovisan o platformi | Vrijeme isporuke i dostupnost više-dobavljača |
| Tipično pristajanje | Trenutačni AI, HPC, oblak, pohrana | Sljedeća-generacija AI i hiperrazmjerne tkanine | Veličina klastera, gustoća GPU-a, plan rasta |
| Host platforma | Usklađuje se s PCIe Gen5 | Često treba host PCIe Gen6 klase | PCIe generacija, broj traka, ožičenje utora |
| Podudaranje tkanine | Široki 400G Ethernet / NDR InfiniBand | Potrebna je tkanina koja podržava 800G / XDR- | Kapacitet kralježnice i omjer prekomjerne pretplate |
| Optika i kabliranje | Mature 400G OSFP / QSFP112 / QSFP-DD | Stroža provjera OSFP-a, topline i dosega | Kompatibilnost modula-strane NIC-a u odnosu na-kompatibilnost modula strane prekidača |
| Troškovni profil | Niža cijena adaptera i optike | Veći trošak, bolja gustoća propusnosti | Cijena po upotrebljivom Gb/s, ne po priključku |
| Toplinska složenost | Upravljiv u većini postojećih prostorija | Veći zahtjevi za snagom i hlađenjem | Trajno{0}}termičko opterećenje |
| Najbolje za | Uravnotežena izvedba i cijena | Maksimalno mjerilo, gustoća,-spremnost za budućnost | Da li cijeli put može nositi 800G |
Kada odabrati 400G NIC
Odaberite 400G NIC kada je cilj visoko{1}}mreža performansi sa zrelim hardverom, predvidljivom implementacijom i kontroliranim troškovima.
Gradite na postojećoj 400G infrastrukturi
Ako su vaši preklopnici, kabeli, optika i poslužiteljske platforme već standardizirani na 400G, ostanak s 400G NIC-ovima uklanja niz provjera kompatibilnosti i omogućuje vam ponovnu upotrebu većine trenutnog ekosustava. To je osobito istinito pri nadogradnji sa 100G ili 200G, gdje je povećanje performansi veliko, a ekosustav daleko zreliji od 800G.
Vaše AI radno opterećenje ne zasićuje strukturu
Nije svakom poslu umjetne inteligencije potrebno 800G po poslužitelju. Mnogi su ograničeni-računanjem,-pohranom,-memorijom ili ograničeni učinkovitošću softvera, a ne propusnošću mreže. Ako profiliranje pokaže da mreža nije primarno usko grlo, NIC od 400G obično donosi bolji povrat.
Trebate -isplativ HPC
Mnoga HPC radna opterećenja osjetljiva su na kašnjenje,-ponašanje pri prosljeđivanju poruka i zagušenje tkanine, a ne na sirovu propusnost. Dobro-podešena tkanina od 400G često je bolja od loše integrirane tkanine od 800G. Korisno pitanje nije koji je NIC brži, nego koji mrežni dizajn daje najbolju izvedbu aplikacije po dolaru.
Trebate bržu nabavu-nižeg rizika
400G adaptere, optiku i kabele lakše je nabaviti i kvalificirati na više platformi poslužitelja i preklopnika. Kada tim ima ograničeno vrijeme za provjeru valjanosti, 400G je izbor nižeg-rizika koji i dalje uklanja većinu uskih grla.
Kada odabrati 800G NIC
Odaberite 800G NIC kada aplikacija, GPU platforma i tkanina zapravo mogu koristiti dodatnu propusnost.
Dizajnirate strukturu za obuku sljedeće-generacije umjetne inteligencije
Veliki klasteri za obuku generiraju intenzivnu komunikaciju svih-za-svima i istok-zapad. Kako veličina modela, broj GPU-a i paralelizam rastu, mreža postaje ograničavač. Ovdje 800G NIC-ovi podižu propusnost po-čvoru i smanjuju rizik od prigušivanja GPU-a od strane mreže.
Trebate veću gustoću propusnosti
800G smanjuje broj priključaka, veza i modula potrebnih za isporuku određene količine propusnosti. To je važno u gustim klasterima gdje su prostor u stalku, broj priključaka na prednjoj-ploči, upravljanje kabelima i radiks sklopke ograničeni. Manje, brži linkovi mogu pojednostaviti izgradnju, pod uvjetom da su sklop sklopke i plan kabliranja dizajnirani za to.
Planirate GPU platforme sljedeće-generacije
Ako plan uključuje sljedeću-generaciju GPU poslužitelja, veću gustoću snage stalka, tekuće hlađenje i veće klastere, 800G je snažniji strateški poziv. Kupnja 400G danas još uvijek može biti razumna, ali tkanina bi trebala biti dizajnirana s migracijskim putem na 800G ili više.
Želite smanjiti dugoročne-prekide nadogradnje
Strategija 800G u fazama smanjuje probleme buduće migracije. Najprije implementirajte preklopnike s 800G-sposobnošću, povežite postojeće 400G NIC-ove kroz probojne ili mješovite-brzinske dizajne, a zatim nadogradite poslužitelje na 800G kasnije. Time se štite trenutna ulaganja dok se materijal priprema za sljedeću generaciju.
Kada NE odabrati 800G NIC
Ovo je često korisnije pitanje i ono filtrira većinu kupnji za kojima ste požalili. Zadržite 800G ako je bilo što od sljedećeg istinito:
- Domaćin ne može izložiti puni PCIe Gen6-class x16 put adapteru. Port će raditi izgladnjelo, a vi ćete platiti za propusnost koju sabirnica poslužitelja ne može isporučiti.
- Kralježnica je preplaćena ili još uvijek 400G. Brži NIC ne popravlja ograničenu strukturu; samo pomiče usko grlo jedan korak dalje.
- Radno opterećenje je ograničeno- ili MPI-a ne propusnošću-. Dodatna propusnost malo pomaže poslovima povezanim sinkronizacijom ili ponašanjem malih-poruka.
- Optika, kablovi ili hlađenje za 800G ne mogu se pronaći i potvrditi na vašoj vremenskoj traci. Nekvalificirani modul koji lupa pod opterećenjem gori je od sporije veze koja ostaje uključena.
- Ne postoji konkretan plan rasta koji danas opravdava premiju.
Ako se primjenjuju dva ili više od toga, 400G je gotovo sigurno pravi odgovor za ovu verziju, s 800G u rezervi za sljedeće osvježenje.
400G naspram 800G NIC za podatkovne centre u oblaku
Tkanine u oblaku rijetko rade posvuda jednom brzinom. Segmentiraju prema klasi prometa, a odabir NIC-a slijedi segment, a ne podatkovni centar u cjelini.
- Prednji-kraj / sjever-južni promet:400G je obično dovoljno za-korisničke i API razine, gdje je propusnost po-protoku skromna, a broj veza dominira.
- Skladištenje i promet istok-zapad:odgovor ovisi o tome koliko je arhitektura raščlanjena. 400G pokriva većinu općih skupova; 800G pomaže tamo gdje su veliki, distribuirani diskovi za pohranu podnijeli opterećenje istoka-zapada.
- AI zaključak:400G dovoljno je za mnoge oblake zaključivanja, dok 800G odgovara gustoj mješavini--stručnjaka za usmjeravanje ili disagregirano posluživanje gdje se tokeni kreću kroz mnogo čvorova.
- Tkanina s više{0}}najamnika:ovdje omjer prekomjerne pretplate i izolacija stanara oblikuju performanse mnogo više od vršne NIC stope. Uravnotežena tkanina od 400G s jakom izolacijom često pobjeđuje bržu, ali zagušenu.
Budući da rast oblaka istok-zapad pada na strukturirana vlakna, planirajte glavno kabliranje uz NIC; naševodič za MPO/MTP magistralno kabliranjepokriva-izvođače velike gustoće. Kao pravilo, koristite 400G za većinu front-slojeva i općenitih razina oblaka i rezervirajte 800G za segmente u kojima dominira gusto AI posluživanje ili veliki istočno-zapadni bazeni.
Ključni faktori odabira osim brzine priključka
Brži NIC ne jamči brža radna opterećenja osim ako ga cijela platforma ne podržava. Pet faktora odlučuje hoće li 800G port isporučivati ili ostati neaktivan.
PCIe generacija i propusnost glavnog računala
NIC dopire do glavnog računala preko PCIe-a, a ta je veza čvrsti strop. Priključak od 400 Gb/s treba otprilike 50 GB/s po smjeru, što može nositi PCIe Gen5 x16 utor, s oko 63 GB/s upotrebljivih po smjeru. Port od 800 Gb/s treba otprilike 100 GB/s po smjeru, izvan Gen5 x16 utora, zbog čega 800G adapteri općenito očekujuspecifikacija PCIe 6.0 tvrtke PCI-SIG(64 GT/s, do 256 GB/s dvosmjerno na x16) ili neobičan x32 dizajn. Prije nego što se posvetite 800G, potvrdite:
- PCIe generacija
- Broj traka i ožičenje utora
- NUMA položaj i put GPU-do-NIC
- Provjera-provjere poslužitelja za adapter
- Podrška za BIOS i firmware
U GPU poslužiteljima, položaj NIC-a u odnosu na CPU i GPU odlučuje o tome koliko se čisto podaci kreću. NIC klase Gen6-ubačen u utor Gen5 x8 najčešće je usko grlo koje sami uzrokujete na terenu.
Switch Fabric i prekomjerna pretplata
Brzina NIC-a mora odgovarati strukturi. 800G adapteri ne rade ništa ako je leaf-kralješak pretplaćen ili su uzlazne veze tanke. Provjerite brzine lisnog i kralježničkog priključka, omjer prekomjerne pretplate, broj mrežnih tračnica, istok-zapadni uzorak, neuspjeh-dizajn domene i potrebnu širinu pojasa bisekcije. Za obuku, niži omjer prekomjerne pretplate obično čini više za performanse nego brži NIC.
RoCE, InfiniBand i Ultra Ethernet
AI i HPC tkanine oslanjaju se na RDMA kako bi smanjile opterećenje CPU-a, a protokol oblikuje NIC, prekidač, kontrolu zagušenja i operacije. Danas NDR InfiniBand radi na 400 Gb/s po portu iXDR InfiniBand doseže 800 Gb/s po portu, koji je izravno povezan s 400G i 800G NIC razinama. Na strani Etherneta,
Specifikacija Ultra Ethernet Consortiuma 1.0definira RDMA-over-Ethernet stog koji obuhvaća NIC-ove, preklopnike, optiku i kablove, usmjeren izravno na AI i HPC skaliranje-.
Odaberite InfiniBand za usko integriranu HPC ili AI strukturu niske-latencije kada vaš tim poznaje taj ekosustav. Odaberite Ethernet ili RoCE za širi izbor dobavljača i integraciju u oblak. Razmotrite Ultra Ethernet kada želite standardizirani, otvoreni put za sljedeću-generaciju Etherneta-visokih performansi.
Optika, faktori oblika i kabliranje
Kod 400G i 800G, fizička kompatibilnost važna je jednako kao i brzina. Dva modula mogu dijeliti brzinu, ali se razlikuju u faktoru oblika, toplinskom dizajnu i zahtjevima hosta. Provjerite OSFP u odnosu na QSFP112 u odnosu na QSFP-DD, ravan-vrh u odnosu na rebrasti-gornji OSFP, prekidač-bočni u odnosu na NIC-bočne zahtjeve modula, DAC, AEC, AOC ili optički domet, podršku za probijanje i kodiranje i firmware dobavljača. Nemojte pretpostavljati da će 800G OSFP koji radi u prekidaču ispravno sjediti i hladiti se u NIC-u; mnogi prekidači i NIC moduli koriste različite toplinske i mehaničke izvedbe.
Provjera snage, protoka zraka i topline
800G komponente troše više energije i zagrijavaju se. Provjerite NIC, optiku, priključke prekidača i putanju protoka zraka pod stalnim opterećenjem, a ne u stanju mirovanja. Potvrdite snagu NIC-a i optičkog-modula, smjer protoka zraka i visinu hlađenja, maksimalnu ulaznu temperaturu, gustoću kabela i blokadu protoka zraka te pretpostavke- u odnosu na-hlađenje zrakom-tekućinom. Toplinska nestabilnost pokazuje se kao preklopi veze i rastuće stope pogrešaka, vrsta povremene greške koju je sporo i skupo loviti u proizvodnji.
Uobičajene pogreške koje treba izbjegavati
Kupujete 800G samo zato što je brži
800G nije automatski bolje. Ako radno opterećenje, poslužitelj ili tkanina ne mogu koristiti propusnost, dodatni se trošak ne pretvara u performanse aplikacije. Povežite priključak s uskim grlom koje zapravo imate.
Ignoriranje PCIe propusnosti
NIC može premještati podatke samo onoliko brzo koliko dopušta glavna sabirnica. Provjerite PCIe generaciju, broj traka i topologiju poslužitelja prije nego što odaberete klasu brzine, a ne nakon što stigne hardver.
Odabir pogrešnog optičkog modula
Pri ovim stopama faktor oblika modula i toplinski dizajn su kritični. Pogrešna varijanta OSFP-a možda neće odgovarati određenom kavezu ili može odgovarati, ali se pregrijati pod stalnim prometom, stvarajući pogreške koje izgledaju kao problem s tkaninom.
Zaboravljamo doseg kabela
DAC, AEC, AOC, višemodna optika i jedno-modna optika služe različitim rasponima udaljenosti, a različite vrste vlakana nose različite udaljenosti; našeslom od OM1 do OM5 dostižu granicepokazuje gdje je koja ocjena najviša. Odabir pogrešne interkonekcije povećava kašnjenje, troškove ili preradu.
Tretiranje NIC-ova, sklopki i optike kao zasebnih kupnji
Naručite adapter, sklopku, optiku i kablove kao jedan potvrđeni popis materijala. Neusklađenost otkrivena nakon implementacije znači priključak koji se povezuje, ali je zaklopac, ili hardver koji se mora vratiti u-izgradnji, što je mnogo više ometajuće nego uhvatiti ga tijekom kvalifikacije.
Konačna preporuka
Odaberite 400G NIC za dokazani,-isplativi adapter koji odgovara današnjoj AI, HPC, pohrani i mrežama u oblaku. To je praktičan izbor za većinu postojećih GPU klastera i soba za mješovitu-generaciju. Odaberite 800G NIC kada gustoća propusnosti, -komunikacija s GPU-om velikih razmjera i spremnost za nadogradnju nadjačaju početne troškove i kada je cijeli put izgrađen za to.
Odluka nikad nije samo u brzini. Od toga je hoće li vaši poslužitelji, preklopnici, optika, kablovi, napajanje i hlađenje tu brzinu pretvoriti u performanse aplikacije. Disciplina koja štiti proračun je jednostavna: potvrdite NIC, prekidač, optiku i kablove kao jedan sustav prije nego što naručite.
FAQ
P: Isplati li se 800G NIC za AI klastere?
O: Isplati se kada je klaster istinski-vezan za mrežu i ostatak putanje to podržava: gusti GPU-ovi, veliki promet od svih-do-svih, 800G ili XDR kralježnica bez-pretjerane pretplate i hostovi klase PCIe Gen6. Ako je tkanina precijenjena ili host ne može hraniti priključak, premija malo kupuje. Profilirajte radno opterećenje prije odluke.
P: Može li PCIe Gen5 poslužitelj podržavati 800G NIC propusnost?
O: Ne punom brzinom na standardnom x16 utoru. PCIe Gen5 x16 veza isporučuje otprilike 63 GB/s po smjeru, dok 800 Gb/s treba oko 100 GB/s po smjeru. Puni 800G obično zahtijeva host PCIe Gen6 ili neuobičajenu x32 stazu. Gen5 hostovi se prirodno spajaju s 400G NIC-ovima.
P: 400G naspram 800G NIC: koji je bolji za RoCE?
O: 800G daje RoCE tkaninama veću sirovu propusnost, ali performansama RoCE-a upravljaju i kontrola zagušenja, dizajn bez gubitaka ili gotovo -bez gubitaka, međuspremnik prekidača, telemetrija i podešavanje hosta. Dobro-podešena RoCE tkanina od 400G često nadmašuje brzu tkaninu od 800G. Uskladite NIC s tkaninom i podešavanjem, a ne samo brzinom.
P: Kakvu optiku trebaju 800G NIC-ovi?
O: Obično OSFP ili QSFP-DD moduli, odabrani prema dometu: DAC ili AEC za kratke bakrene serije, i AOC ili single- i višemodna optika za veće udaljenosti. Ključna provjera je da su moduli NIC-strane i -strane prekidača mehanički i termički kompatibilni, budući da ista stopa ne jamči da će isti modul sjediti i hladiti se na oba kraja.
P: Mogu li 400G i 800G NIC-ovi raditi u istom podatkovnom centru?
O: Da, s planiranjem. Mješovite-brzinske mreže oslanjaju se na prekidne kabele, kompatibilne priključke prekidača, čisto usmjeravanje i jasnu mapu migracije. Ovo je normalan put za postupnu nadogradnju s 400G-na 800G.
P: Trebam li sada nadograditi s 400G na 800G?
O: Nadogradite kada radno opterećenje i platforma mogu koristiti dodatnu propusnost. Ako vaša 400G mreža nije usko grlo, prvo optimizirajte topologiju, prekomjernu pretplatu i podešavanje, a zatim pokrenite migraciju na 800G, obično prvo-s hostovima koji se kasnije nadograđuju.
P: Je li 400G NIC dovoljan za AI obuku?
O: Za mnoge klastere za obuku, da, posebno s dobro-dizajniranom, nisko-pretplatničkom strukturom. Vrlo veliki klasteri i GPU platforme sljedeće-generacije s propusnošću po-GPU-u u klasi od 800G mjesto su gdje se 800G počinje isplatiti.
