Le calcul en mémoire de Microchip booste le traitement vocal par IA
Grâce à sa technologie memBrain de calcul analogique en mémoire, l’Américain a permis au Chinois Witinmem de développer une solution monopuce basée sur un processeur neuronal qui élimine les problèmes posés par les processeurs traditionnels utilisant une approche DSP plus Sram/Dram dans les applications de traitement vocal par IA en périphérie de réseau (Edge IA).
La technologie du calcul en mémoire (computing in memory) permet potentiellement d’éliminer les goulots d’étranglement liés aux transferts volumineux de données de traitement vocal par IA en périphérie de réseau (Edge IA). Encore faut qu’il disposer pour cela d’une mémoire intégrée capable d’effectuer simultanément les calculs du réseau neuronal et le stockage des pondérations.
Silicon Storage Technology (SST), une filiale de l’Américain Microchip Technology, et la start-up chinoise Witinmem, affirment être en mesure de commercialiser une telle solution dans les mois qui viennent. Microchip a ainsi travaillé avec Witinmem pour intégrer la solution de calcul analogique en mémoire memBrain du premier, basée sur la technologie SuperFlash, dans le SoC ultra-basse consommation du second, dédié au traitement par réseau neuronal, notamment pour la reconnaissance vocale, la reconnaissance d’empreinte vocale, la réduction de bruit vocal, la détection de scènes, et la surveillance d’état de santé.
Ce composant est présenté comme le premier SoC produit en série permettant à des systèmes faible consommation (sous le mA) de réduire le bruit vocal et de reconnaître des centaines de mots de commande, en temps réel, et dès sa mise sous tension.
« Après avoir été les premiers à développer une puce de calcul en mémoire pour l’audio en 2019, nous franchissons aujourd’hui une nouvelle étape, grâce à la solution memBrain de Microchip, avec la production en série de cette technologie dans notre SoC de traitement neuronal ultra-basse consommation, qui rationalise et améliore les performances du traitement vocal dans les produits intelligents à traitement vocal et de santé », souligne Shaodi Wang, président exécutif de Witinmem.
« Le SoC de Witinmem démontre tout l’intérêt de la technologie memBrain pour créer une solution monopuce basée sur un processeur neuronal de calcul en mémoire, qui élimine les problèmes posés par les processeurs traditionnels utilisant une approche DSP plus Sram/Dram pour stocker et exécuter des modèles d’apprentissage automatique », précise Mark Reiten, vice-président de la division Licences chez SST, filiale de Microchip.
Selon l’Américain, sa mémoire neuromorphique memBrain est optimisée pour la multiplication de matrices vectorielles (VMM) nécessaires aux réseaux neuronaux, ce qui permet à des processeurs installés dans des dispositifs edge à haut niveau d’intégration et alimentés par batterie, d’offrir les meilleures performances possibles en matière d’inférences IA par watt. Cela grâce au stockage des pondérations du modèle neuronal sous forme de valeurs dans la matrice mémoire et en utilisant simultanément cette matrice mémoire comme élément de calcul neuronal. A en croire Microchip, cela se traduit par une consommation d’énergie 10 à 20 fois inférieure à celle des autres approches, ainsi qu’une réduction des coûts globaux de nomenclature du processeur puisqu’aucune Dram ni mémoire Nor externe n’est nécessaire.
Par ailleurs, le stockage permanent des modèles neuronaux à l’intérieur même du composant de traitement de la solution memBrain permet également l’activation instantanée du traitement par réseau neuronal en temps réel. A noter que Witinmem tire parti de la non-volatilité des cellules à grille flottante SuperFlash pour mettre hors tension ses macros de calcul en mémoire en phase d’inactivité afin de réduire encore la consommation liée aux fuites, dans les cas d’utilisation IoT les plus exigeants.
