Силен привърженик на отворените стандарти, Джим Келър написа в Туитър, че Nvidia е трябвало да използва комуникация по Ethernet протокол чип-чип в своите базирани на Blackwell GPU GB200 за AI и високопроизводителни изчисления. Келър твърди, че това би могло да спести много пари на Nvidia и потребителите на нейните устройства. Това също би улеснило тези клиенти да мигрират своя софтуер към различни хардуерни платформи, което не е непременно това, което Nvidia иска.
Когато Nvidia представи своя GPU GB200 за AI и високопроизводителни изчислителни приложения, компанията се фокусира основно върху производителността на AI и усъвършенстваната подсистема на паметта и каза малко за това как е изградено устройството. Междувременно GB200 GPU на Nvidia включва два изчислителни процесора, пакетирани заедно с помощта на технологията за пакетиране CoWoS-L на TSMC и технологията за свързване NVLink, която използва патентован протокол. Това не е проблем за тези, които вече използват хардуер и софтуер на Nvidia, но представлява предизвикателство за индустрията при пренасянето на софтуер от платформи на Nvidia.
Има причина, поради която Джим Келър, легендарен CPU дизайнер и главен изпълнителен директор на Tenstorrent, конкурент на Nvidia, предполага, че Nvidia е трябвало да използва Ethernet вместо собствения NVLink. Платформите на Nvidia използват технология NVLink с ниска латентност за комуникации чип-чип и сървър-сървър (която се конкурира с PCIe с протокола CXL отгоре) и собствени комуникации InfiniBand за комуникации на по-високо ниво. За да се постигне максимална производителност, софтуерът е настроен така, че да отговаря на спецификите на двете технологии. По очевидни причини това може донякъде да усложни процеса на пренасяне на софтуер към други хардуерни платформи, което е добре за Nvidia и напълно неблагоприятно за нейните конкуренти.
Все пак има една уловка. Ethernet е повсеместна технология в хардуера и софтуера и е конкурент на свързаността InfiniBand с ниска латентност и висока честотна лента (до 200 Gigabit) на центровете за данни на Nvidia. По отношение на производителността Ethernet (особено следващото поколение 400GbE и 800GbE) може да се конкурира с InfiniBand.
Въпреки това InfiniBand все още има някои предимства по отношение на функциите на AI и HPC и превъзходна латентност, така че някои може да кажат, че възможностите на Ethernet не отговарят на нововъзникващите работни натоварвания на AI и HPC. Междувременно индустрията – водена от AMD, Broadcom, Intel, Meta, Microsoft и Oracle – разработва технология за свързване Ultra Ethernet, която е готова да осигури по-висока пропускателна способност и функции за AI комуникации и високопроизводителни изчисления. Разбира се, Ultra Ethernet ще стане по-жизнеспособен конкурент на InfiniBand на Nvidia при този тип натоварване.
Разбира се, Nvidia трябва да разработи платформи за центрове за данни за използване тук и сега, което може да е поне част от желанието й да харчи милиарди за патентовани технологии. Ако технологиите с отворени стандарти като PCIe с CXL и Ultra Ethernet ще надминат патентованите NVLink и InfiniBand технологии на Nvidia по отношение на производителност и възможности, Nvidia ще трябва да преработи своите платформи, така че Келър (или троловете) съветва Nvidia да приеме Ethernet. Това обаче може да е след години, така че засега проектите на Nvidia продължават да се възползват от собствените връзки.
More Stories
Съобщава се, че Apple работи върху 90Hz Studio Display, iMac и iPad Air
Новото музикално приложение на Nintendo е клонинг на YouTube Music
2027 Pixel Tablet ‘3’ може да има втори USB-C порт