Intel разкрива нови подробности за Meteor Lake VPU Block, излага визия за клиентския AI

Докато първите системи са базирани на предстоящия Intel Meteor Lake (14^г Системите Gen Core все още са на пазара поне за няколко месеца — и по този начин далеч от представянето им на Computex — Intel вече полага основите за дългоочакваното стартиране на Meteor Lake. На тазгодишното изложение, което бързо се превръща в събитие, фокусирано върху ИИ, Intel използва Computex, за да очертае своята визия за изводи от страна на ИИ от страна на клиента за следващото поколение системи. Това включва някои нови разкрития относно хардуера за обработка на AI, който ще бъде в устройствата Intel Meteor Lake, както и какво Intel очаква разработчиците на операционни системи и софтуер да направят с новите възможности.

Естествено, AI бързо се превърна в модната дума в технологичната индустрия през последните няколко месеца, особено след публичното пускане на ChatGPT и повишения интерес към това, което сега се нарича „генеративен AI“. И така, подобно на ранните етапи на приемане на други големи нови компютърни технологии, доставчиците на хардуер и софтуер все още са в процес на определяне какво може да се направи с тази нова технология и кои са най-добрите хардуерни проекти за захранването й. И зад всичко това… нека просто кажем, че има много потенциални приходи, които чакат онези компании, които успеят в тази нова надпревара с ИИ.

Intel от своя страна не е непознат за AI хардуера, въпреки че това със сигурност не е област, която обикновено получава най-високо таксуване в компания, известна със своите процесори и фабрики (в този ред). Конюшнята от изцяло притежавани дъщерни дружества на Intel в тази област включва Movidius, която произвежда процесори за визуализация с ниска мощност (VPU), и Habana Labs, която е отговорна за семейството на Гауди от авангардни ускорители за дълбоко обучение. Но дори в клиентските продукти на Intel за етикети и файлове, компанията е включила някои много нискоенергийни основни хардуери за AI под формата на своя пакет Gaussian & Neural Accelerator (DNA) за аудио обработка, който е в семейството Core от архитектурата на Леденото езеро.

Въпреки това през 2023 г. вятърът явно духа в посока на добавяне на повече AI машини на всяко ниво, от клиент до сървър. Така че за Computex, Intel разкрива малко повече за усилията си за ИИ в Meteor Lake.

Meteor Lake: SoC Tile включва VPU, получен от Movidius, за изводи с изкуствен интелект с ниска мощност

По отношение на хардуера, голямото разкритие от Intel е, че както отдавна подозирахме, Intel съхранява някои от най-мощния си AI хардуер в своя оценен SoC. По-рано документиран в някои предложения на Intel като „XPU“ блок в рамките на неговата Meteor Lake SoC плочка (среден квадрат), Intel сега потвърждава, че този XPU е пълноправен блок за ускорение на AI.

По-конкретно, блокът е извлечен от дизайна на Vision Processing Unit (VPU) от трето поколение на Movidius и в бъдеще е подходящо идентифициран от Intel като VPU.

Количеството технически подробности, които Intel предоставя за VPU блок за Computex, е ограничено — нямаме данни за производителността или представа колко място на SoC матрицата заема. Но най-новият VPU на Movidius, Myriad X, включваше доста гъвкав двигател за невронни изчисления, който беше отговорен за предоставянето на VPU на неговите възможности за невронни мрежи. Двигателят в Myriad X е оценен на 1 TOPS пропускателна способност, въпреки че почти 6 години и няколко практични десетилетия по-късно Intel почти сигурно се е насочил към Meteor Lake много по-високо.

Тъй като е част от плочката Meteor Lake SoC, VPU ще присъства във всички SKU на Meteor Lake. Intel не би го използвал като селектор на функции, на ECC или дори за интегрирана графика; Така че това ще бъде основна функция, достъпна за всички части, базирани на Lake Meteor.

Целта на VPU от своя страна е да осигури опция за трета релса за обработка на AI. За нуждите от висока производителност има интегриран GPU, чийто голям набор от ALU може да осигури относително изобилни количества обработка за матричната математика зад невронните мрежи. Междувременно процесорът все още ще бъде предпочитаният процесор за прости работни натоварвания с ниска латентност, които не могат да изчакат VPU да се инициализира или където размерът на работното натоварване просто не оправдава усилията. Това оставя VPU в средата, като специален, но с ниска мощност AI ускорител, който да се използва за непрекъснати работни натоварвания с AI, които не се нуждаят от производителността (и мощността) на GPU.

Също така си струва да се отбележи, че въпреки че не е изрично в схемите на Intel, блокът GNA също ще присъства в Meteor Lake. Неговата специалност е работа с много ниска мощност, така че все още са необходими неща като събуждане със звук и съвместимост със съществуващ софтуер, поддържащ GNA.

След това остават много неща, които не знаем за Meteor Lake VPU. Фактът, че дори се нарича VPU и включва технологията на Movidius, означава, че това е дизайн, фокусиран върху компютърното зрение, подобно на отделните VPU на Movidius. Ако е така, Meteor Lake VPU може да превъзхожда управлението на визуални натоварвания, но му липсва производителност и гъвкавост в други области. И докато днешното разкриване на разкритието на Intel бързо навежда на съзнанието въпроси за това как този блок се сравнява по производителност и функционалност с пакета, получен от Ryzen AI на AMD, това са въпроси, които ще трябва да почакат още един ден.

Поне засега Intel се чувства в добра позиция да ръководи трансформацията на AI в клиентското пространство. И искат светът да знае – както разработчиците, така и потребителите.

Софтуерна страна: Какво правите с AI?

Както бе споменато във въведението, хардуерът е само половината от уравнението, когато става дума за софтуер за ускоряване на AI. По-важно от това какво да работи на него е какво да се прави с него и това е нещо, върху което Intel и неговите софтуерни партньори все още работят.

На най-просто ниво, включването на VPU осигурява допълнителна енергоспестяваща производителност за изпълнение на задачи, които вече разчитат на AI под една или друга форма днес на някои платформи, като динамично потискане на шума и сегментиране на фона. В това отношение включването на VPU догонва SoC от клас смартфони, където неща като Neural Engine на Apple и Hexagon NPU на Qualcomm осигуряват подобно ускорение днес.

Но Intel има за цел много по-голяма награда. И двамата искат да насърчат преместването на съществуващите работни натоварвания на AI сървъра към ръба – с други думи, преместване на обработката на AI към клиента – както и насърчаването на изцяло нови работни натоварвания на AI.

Какви са те, на този етап, остава да видим. Microsoft изхвърли някои от собствените си идеи миналата седмица на годишната си конференция Build, включително обявяването на Функция Copilot за Windows 11. Доставчикът на операционната система също полага някои основи за разработчиците с Open Neural Network Exchange (ONNX) среда за изпълнение.

До известна степен целият технологичен свят е в момент, в който е с нов чук и сега всичко започва да изглежда точно като пирон. Intel, от своя страна, със сигурност не остана извън него, тъй като днешното разкритие е по-амбициозно от конкретните ползи от софтуерната страна на нещата. Но това наистина са първите дни на AI и никой няма добра представа какво може или не може да направи. Разбира се, има няколко пирона за заковаване.

За тази цел Intel се стреми да насърчи екосистема на „вграждане и пускане“ на AI в компютърното пространство. Осигурете хардуер навсякъде, работете с Microsoft, за да предоставите софтуерните инструменти и API, необходими за използване на хардуера, и вижте какви нови преживявания могат да предложат разработчиците — или алтернативно, какви работни натоварвания могат да прехвърлят към VPU, за да намалят потреблението на енергия.

В крайна сметка Intel прогнозира, че работните натоварвания, базирани на AI, ще променят потребителското изживяване на компютъра. Независимо дали това се случва напълно или не, е достатъчно, за да се гарантира, че хардуерът ще свърши работата в следващото поколение процесори.