CEVA, Inc. kondigt NeuPro-M aan, haar nieuwste generatie processorarchitectuur voor kunstmatige intelligentie en machine learning (AI/ML) inference workloads. NeuPro-M richt zich op de brede markten van Edge AI en Edge Compute, en is een op zichzelf staande heterogene architectuur die bestaat uit meerdere gespecialiseerde co-processoren en configureerbare hardwareversnellers die naadloos en gelijktijdig verschillende werklasten van Deep Neural Networks verwerken, waardoor de prestaties met 5-15X worden verbeterd in vergelijking met zijn voorganger. Als eerste in de industrie ondersteunt NeuPro-M zowel system-on-chip (SoC) als heterogene SoC (HSoC) schaalbaarheid om tot 1.200 TOPS te komen en biedt optioneel robuust beveiligd opstarten en end-to-end data privacy. Ter illustratie van de toonaangevende prestaties: een enkele NPM11 kern, bij het verwerken van een ResNet50 convolutioneel neuraal netwerk, behaalt een 5X hogere prestatie en een 6X lagere geheugenbandbreedte in vergelijking met zijn voorganger, wat resulteert in een uitzonderlijke energie-efficiëntie van tot 24 TOPS per watt. Voortbouwend op het succes van zijn voorgangers, is NeuPro-M in staat om alle bekende neurale netwerk architecturen te verwerken, alsmede geïntegreerde native ondersteuning voor de volgende generatie netwerken zoals transformatoren, 3D convolutie, zelf-attentie en alle soorten van terugkerende neurale netwerken. NeuPro-M is geoptimaliseerd om meer dan 250 neurale netwerken, meer dan 450 AI kernels en meer dan 50 algoritmen te verwerken. De embedded vector processing unit (VPU) zorgt voor toekomstvaste software-gebaseerde ondersteuning van nieuwe neurale netwerktopologieën en nieuwe ontwikkelingen in AI workloads. Bovendien kan de CDNN offline compressietool de FPS/Watt van de NeuPro-M met een factor 5-10X verhogen voor gangbare benchmarks, met een zeer minimale impact op de nauwkeurigheid.