Силен привърженик на отворените стандарти, Джим Келър написа в Туитър, че Nvidia е трябвало да използва комуникация по Ethernet протокол чип-чип в своите базирани на Blackwell GPU GB200 за AI и високопроизводителни изчисления. Келър твърди, че това би могло да спести много пари на Nvidia и потребителите на нейните устройства. Това също би улеснило тези клиенти да мигрират своя софтуер към различни хардуерни платформи, което не е непременно това, което Nvidia иска.
Когато Nvidia представи своя GPU GB200 за AI и високопроизводителни изчислителни приложения, компанията се фокусира основно върху производителността на AI и усъвършенстваната подсистема на паметта и каза малко за това как е изградено устройството. Междувременно GB200 GPU на Nvidia включва два изчислителни процесора, пакетирани заедно с помощта на технологията за пакетиране CoWoS-L на TSMC и технологията за свързване NVLink, която използва патентован протокол. Това не е проблем за тези, които вече използват хардуер и софтуер на Nvidia, но представлява предизвикателство за индустрията при пренасянето на софтуер от платформи на Nvidia.
Има причина, поради която Джим Келър, легендарен CPU дизайнер и главен изпълнителен директор на Tenstorrent, конкурент на Nvidia, предполага, че Nvidia е трябвало да използва Ethernet вместо собствения NVLink. Платформите на Nvidia използват технология NVLink с ниска латентност за комуникации чип-чип и сървър-сървър (която се конкурира с PCIe с протокола CXL отгоре) и собствени комуникации InfiniBand за комуникации на по-високо ниво. За да се постигне максимална производителност, софтуерът е настроен така, че да отговаря на спецификите на двете технологии. По очевидни причини това може донякъде да усложни процеса на пренасяне на софтуер към други хардуерни платформи, което е добре за Nvidia и напълно неблагоприятно за нейните конкуренти.
Все пак има една уловка. Ethernet е повсеместна технология в хардуера и софтуера и е конкурент на свързаността InfiniBand с ниска латентност и висока честотна лента (до 200 Gigabit) на центровете за данни на Nvidia. По отношение на производителността Ethernet (особено следващото поколение 400GbE и 800GbE) може да се конкурира с InfiniBand.
Въпреки това InfiniBand все още има някои предимства по отношение на функциите на AI и HPC и превъзходна латентност, така че някои може да кажат, че възможностите на Ethernet не отговарят на нововъзникващите работни натоварвания на AI и HPC. Междувременно индустрията – водена от AMD, Broadcom, Intel, Meta, Microsoft и Oracle – разработва технология за свързване Ultra Ethernet, която е готова да осигури по-висока пропускателна способност и функции за AI комуникации и високопроизводителни изчисления. Разбира се, Ultra Ethernet ще стане по-жизнеспособен конкурент на InfiniBand на Nvidia при този тип натоварване.
Разбира се, Nvidia трябва да разработи платформи за центрове за данни за използване тук и сега, което може да е поне част от желанието й да харчи милиарди за патентовани технологии. Ако технологиите с отворени стандарти като PCIe с CXL и Ultra Ethernet ще надминат патентованите NVLink и InfiniBand технологии на Nvidia по отношение на производителност и възможности, Nvidia ще трябва да преработи своите платформи, така че Келър (или троловете) съветва Nvidia да приеме Ethernet. Това обаче може да е след години, така че засега проектите на Nvidia продължават да се възползват от собствените връзки.
„Internet trailblazer. Travelaholic. Страстен евангелист в социалните медии. Защитник на телевизията.“
More Stories
Anthropic предлага временно забавяне на развитието на изкуствения интелект
Google Gemini 3.5 Flash показва ново поколение изкуствен интелект
Изкуственият интелект спори сам със себе си за бъдещето на професиите