AlphaICs sampling av Gluon-chip för edge AI


Nystartade AlphaICs tillkÀnnagav igÄr att de har börjat sampla sin Gluon-samprocessor för att fÄ kundernas AI-slutledning. AlphaICs hÀvdar att chippet levererar konkurrenskraftig prestanda jÀmfört med Nvidia i synarbetsbelastningar som objektdetektering.

Gluon Àr baserad pÄ AlphaICs egenutvecklade arkitektur som har en instruktionsuppsÀttningsarkitektur (ISA) optimerad för AI, och har varit under utveckling i tvÄ Är. ISA hÀnvisar till instruktionerna som ett chip kan bearbeta. AlphaICs kallar det Real AI Processor (RAP) arkitektur. AlphaICs har vidare en SDK med stöd för TensorFlow. Företaget rapporterar att andra ramverk Àr under utveckling.

En teoretisk nackdel Àr att inte hÄlla Gluon tillbaka

Som företagets första chip baserat pĂ„ RAP-arkitekturen har Gluon 8 TOPS – ett mĂ„tt som betyder biljoner operationer per sekund, eller “tera operationer per second” – av berĂ€kningsmöjligheter för neurala nĂ€tverk för djupinlĂ€rning. Även om detta inte Ă€r sĂ€rskilt högt och jĂ€mförbart med (eller till och med lĂ€gre Ă€n) andra edge AI och smartphone-chips, hĂ€vdar AlphaICs att det har högre utnyttjande (högre prestanda per TOPS), vilket resulterar i högre prestanda. Gluon stöder vidare PCIe- och LPDDR4-grĂ€nssnitt. SjĂ€lva chippet Ă€r tillverkat pĂ„ TSMC:s 16nm-process, vilket ger det en teoretisk nackdel jĂ€mfört med andra chip som kanske redan har flyttat till mer avancerade noder som 7nm eller till och med 5nm.

ÄndĂ„ gav AlphaICs nĂ„gra riktmĂ€rken för att bevisa chipets kapacitet, eftersom de hĂ€vdar att Gluon har högre prestanda per watt och prestanda per TOPS Ă€n Nvidias edge-chips. I Yolo-V2 uppnĂ„r Gluon enligt uppgift 153 bilder per sekund samtidigt som den förbrukar strax under 5W, och 308 bilder per sekund i ResNet-50 vid 3,5W.

Som jÀmförelse, enligt Nvidia, uppnÄr Jetson TX2, som har en 7,5W TDP, bara 112 fps i bÄde Yolo-V3 och ResNet-50. Jetson Xavier NX, som Àr klassad till 10-20W och 21 TOPS, uppnÄr 1100fps i ResNet-50.

Som en samprocessor riktad mot kantsegmentet, dÀr ström ofta Àr en begrÀnsning, Àr Gluon inriktad pÄ synarbetsbelastningar som klassificering och detektion. Segment dÀr dessa funktioner anvÀnds inkluderar övervakning, industri, detaljhandel och smarta stÀder.

AlphaIC Ă€r baserat i Milpitas och samlade in 8 miljoner dollar för ett Ă„r sedan. Företaget grundades 2016 av Vinod Dham, en före detta Intel-chef kĂ€nd som “Fader of the Pentium.”

VentureBeats uppdrag ska vara ett digitalt stadstorg för tekniska beslutsfattare att fÄ kunskap om transformativ företagsteknik och handla. LÀs mer om medlemskap.