« La Chine crée un cerveau artificiel 100 fois plus rapide » : SpikingBrain pulvérise ChatGPT avec 76 milliards de neurones révolutionnaires

Dans le domaine en constante évolution de l’intelligence artificielle, le développement d’algorithmes plus efficaces et moins gourmands en énergie reste une priorité. C’est dans ce contexte que des chercheurs de l’Institut d’Automatisation de l’Académie des Sciences de Chine à Pékin ont présenté SpikingBrain 1.0, un modèle d’intelligence artificielle « semblable au cerveau ». Ce système promet une efficacité énergétique accrue et des performances exceptionnelles grâce à une technologie inspirée du fonctionnement neuronal humain. En utilisant des composants matériels chinois, SpikingBrain 1.0 se positionne comme une alternative innovante aux modèles traditionnels basés sur des technologies étrangères.

Un modèle inspiré par le cerveau humain

SpikingBrain 1.0 repose sur une technologie appelée « calcul en pointes », qui imite le fonctionnement des neurones biologiques. Contrairement aux modèles traditionnels qui activent un vaste réseau pour traiter l’information, ce système utilise une approche événementielle. Les neurones ne s’activent que lorsqu’ils sont spécifiquement sollicités par un signal d’entrée. Cette méthode permet de réduire la consommation d’énergie et d’accélérer les temps de traitement. Deux versions du modèle ont été conçues, l’une avec 7 milliards de paramètres, l’autre avec 76 milliards, toutes deux entraînées avec environ 150 milliards de tokens de données.

Cette efficacité est particulièrement remarquable dans le traitement de longues séquences de données. Lors d’un test, le modèle le plus petit a répondu à une séquence de 4 millions de tokens plus de 100 fois plus rapidement qu’un système standard. Un autre test a démontré une accélération de 26,5 fois par rapport aux architectures traditionnelles lors de la génération du premier token à partir d’un contexte d’un million de tokens.

Cette révolution navale propulse les États-Unis vers une domination maritime totale avec des capacités que tous les adversaires redoutent maintenant

Performance stable sur des composants locaux

Le système a démontré une stabilité exceptionnelle en fonctionnant pendant plusieurs semaines sur des centaines de puces MetaX, développées par MetaX Integrated Circuits Co. à Shanghai. Cette performance soutenue sur du matériel domestique met en lumière le potentiel du système pour des applications concrètes dans le monde réel.

Les applications potentielles de SpikingBrain 1.0 incluent l’analyse de documents juridiques et médicaux, la recherche en physique des hautes énergies, et des tâches complexes comme le séquençage ADN. Ces domaines nécessitent de traiter d’énormes ensembles de données où la vitesse et l’efficacité sont cruciales. Les résultats obtenus démontrent non seulement la faisabilité de l’entraînement de modèles à grande échelle sur des plateformes non-NVIDIA, mais aussi de nouvelles voies pour le déploiement évolutif des modèles inspirés par le cerveau dans les futurs systèmes informatiques.

« 1 300 kilomètres de portée avec des missiles intégrés » : ce drone de combat YFQ-42A développé en un an seulement terrorise l’aviation mondiale avec une autonomie que personne n’imaginait

Un projet dans le cadre de l’informatique neuromorphique

Le développement de SpikingBrain 1.0 s’inscrit dans une quête scientifique plus large pour l’informatique neuromorphique, qui vise à reproduire l’efficacité remarquable du cerveau humain. Ce dernier ne consomme que 20 watts pour fonctionner. Selon les chercheurs, le modèle a réalisé certaines tâches jusqu’à 100 fois plus vite que les modèles conventionnels, tout en nécessitant moins de 2 % des données habituellement requises pour l’entraînement. Ce projet met en avant l’importance de développer des technologies qui s’inspirent des mécanismes cérébraux, afin de créer des systèmes plus efficaces et durables.

Les chercheurs soulignent que les modèles de type Transformer, couramment utilisés, rencontrent des limites d’efficacité significatives. Le calcul pour l’entraînement augmente en fonction quadratique de la longueur des séquences et la mémoire d’inférence croît de manière linéaire. SpikingBrain 1.0 propose une alternative en réduisant ces goulots d’étranglement grâce à son approche neuronale.

« 1 600 tonnes de technologie chinoise pour ITER » : cette livraison magnétique révolutionnaire propulse la fusion nucléaire vers l’énergie du soleil que personne n’arrivait à reproduire

Vers un avenir technologique durable

SpikingBrain 1.0 représente un pas important vers un avenir technologique plus durable, en mettant l’accent sur l’efficacité énergétique et l’indépendance technologique. L’utilisation de matériels développés localement offre une alternative viable aux solutions étrangères tout en contribuant à la réduction de l’empreinte carbone des technologies de l’information. Le succès de ce projet pourrait encourager d’autres initiatives similaires et stimuler l’innovation dans le domaine des intelligences artificielles inspirées par le cerveau.

En fin de compte, la question demeure : comment ces avancées technologiques influenceront-elles le développement futur de l’intelligence artificielle et quelles seront les implications pour nos sociétés ?