Силен привърженик на отворените стандарти, Джим Келър написа в Туитър, че Nvidia е трябвало да използва комуникация по Ethernet протокол чип-чип в своите базирани на Blackwell GPU GB200 за AI и високопроизводителни изчисления. Келър твърди, че това би могло да спести много пари на Nvidia и потребителите на нейните устройства. Това също би улеснило тези клиенти да мигрират своя софтуер към различни хардуерни платформи, което не е непременно това, което Nvidia иска.
Когато Nvidia представи своя GPU GB200 за AI и високопроизводителни изчислителни приложения, компанията се фокусира основно върху производителността на AI и усъвършенстваната подсистема на паметта и каза малко за това как е изградено устройството. Междувременно GB200 GPU на Nvidia включва два изчислителни процесора, пакетирани заедно с помощта на технологията за пакетиране CoWoS-L на TSMC и технологията за свързване NVLink, която използва патентован протокол. Това не е проблем за тези, които вече използват хардуер и софтуер на Nvidia, но представлява предизвикателство за индустрията при пренасянето на софтуер от платформи на Nvidia.
Има причина, поради която Джим Келър, легендарен CPU дизайнер и главен изпълнителен директор на Tenstorrent, конкурент на Nvidia, предполага, че Nvidia е трябвало да използва Ethernet вместо собствения NVLink. Платформите на Nvidia използват технология NVLink с ниска латентност за комуникации чип-чип и сървър-сървър (която се конкурира с PCIe с протокола CXL отгоре) и собствени комуникации InfiniBand за комуникации на по-високо ниво. За да се постигне максимална производителност, софтуерът е настроен така, че да отговаря на спецификите на двете технологии. По очевидни причини това може донякъде да усложни процеса на пренасяне на софтуер към други хардуерни платформи, което е добре за Nvidia и напълно неблагоприятно за нейните конкуренти.
Все пак има една уловка. Ethernet е повсеместна технология в хардуера и софтуера и е конкурент на свързаността InfiniBand с ниска латентност и висока честотна лента (до 200 Gigabit) на центровете за данни на Nvidia. По отношение на производителността Ethernet (особено следващото поколение 400GbE и 800GbE) може да се конкурира с InfiniBand.
Въпреки това InfiniBand все още има някои предимства по отношение на функциите на AI и HPC и превъзходна латентност, така че някои може да кажат, че възможностите на Ethernet не отговарят на нововъзникващите работни натоварвания на AI и HPC. Междувременно индустрията – водена от AMD, Broadcom, Intel, Meta, Microsoft и Oracle – разработва технология за свързване Ultra Ethernet, която е готова да осигури по-висока пропускателна способност и функции за AI комуникации и високопроизводителни изчисления. Разбира се, Ultra Ethernet ще стане по-жизнеспособен конкурент на InfiniBand на Nvidia при този тип натоварване.
Разбира се, Nvidia трябва да разработи платформи за центрове за данни за използване тук и сега, което може да е поне част от желанието й да харчи милиарди за патентовани технологии. Ако технологиите с отворени стандарти като PCIe с CXL и Ultra Ethernet ще надминат патентованите NVLink и InfiniBand технологии на Nvidia по отношение на производителност и възможности, Nvidia ще трябва да преработи своите платформи, така че Келър (или троловете) съветва Nvidia да приеме Ethernet. Това обаче може да е след години, така че засега проектите на Nvidia продължават да се възползват от собствените връзки.
„Internet trailblazer. Travelaholic. Страстен евангелист в социалните медии. Защитник на телевизията.“
More Stories
Google Maps се преобразява – ето всичко, което трябва да знаете
Впечатления от първата игра на Akuma на Tokido След ранно изпробване на следващия DLC на Street Fighter 6, не съм сигурен дали демонът е всемогъщ
Instagram обновява своя алгоритъм в битката за създателите на TikTok