Red Hat annonce l’acquisition de Neural Magic, une startup spécialisée dans l’optimisation des modèles d’intelligence artificielle. Cette acquisition stratégique vise à renforcer l’engagement de Red Hat dans le domaine de l’IA générative et du cloud hybride.
Fondée en 2018 par le chercheur Alex Matveev et le professeur Nir Shavit du MIT, Neural Magic s’est imposée comme un pionnier dans le développement de logiciels et d’algorithmes permettant d’accélérer les inférences IA notamment celles des IA génératives. Experte en quantificarion et sparsification des modèles IA, la jeune pousse est principalement connue pour son projet vLLM, une bibliothèque open source conçue pour des inférences à haut débit et économes en mémoire, particulièrement pour les grands modèles de langage (LLM). Cette technologie permet aux modèles IA de fonctionner de manière plus efficace sur des processeurs standards ou des GPU sans nécessiter de NPU.
Les détails de l’opération n’ont pas été communiqués. Mais la startup, basée à Somerville dans le Massachusetts, avait précédemment levé 50 millions de dollars auprès d’investisseurs de renom, notamment Andreessen Horowitz et New Enterprise Associates.
Répondre aux défis de l’IA générative
Cette acquisition intervient dans un contexte où les modèles de langage (LLM) deviennent de plus en plus volumineux, nécessitant des ressources informatiques et énergétiques considérables. Matt Hicks, PDG de Red Hat, explique que « les charges de travail d’IA doivent pouvoir s’exécuter partout où les données des clients résident dans le cloud hybride. Cela nécessite des plateformes et des outils flexibles, standardisés et ouverts. »
Grâce à Neural Magic, Red Hat bénéficie désormais d’une pile technologique pensée pour les entreprises leur permettant d’optimiser et de déployer leurs modèles d’IA dans différents environnements cloud, tout en conservant un contrôle total sur leur infrastructure et leur sécurité.
Cette acquisition intervient alors que Red Hat multiplie les annonces liées à l’IA avec notamment les lancements de RHEL AI, OpenShift AI, InstructLab et Lightspeed.
Elle fait écho à d’autres acquisitions comme celle de RunAI par NVidia en avril dernier ou celle de SigOpt par IBM démontrant un intérêt croissant des acteurs de la Tech pour les technologies permettant de rendre les IA plus efficientes et performantes sur des matériels variés et non nécessairement dédiés. Un domaine dans lequel prolifère les startups à l’image de ThirdAI, DeepCube, OctoML, Deci et d’autres.
L’expertise technologique de Neural Magic dans le domaine des vLLM renforcera la capacité de Red Hat AI à prendre en charge les déploiements de LLM partout et en tout lieu dans le cloud hybride, grâce à une pile d’inférence prête à l’emploi, hautement optimisée et ouverte.
« L’open source a maintes et maintes fois prouvé sa capacité à stimuler l’innovation grâce à la puissance de la collaboration communautaire » explique de son côté Brian Stevens, CEO de Neural Magic. « Chez Neural Magic, nous avons rassemblé certains des meilleurs talents de l’industrie en matière d’optimisation des performances de l’IA, avec une mission unique : développer des capacités de déploiement de LLM ouvertes, multiplateformes et ultra-efficaces. Rejoindre Red Hat n’est pas seulement une adéquation culturelle, mais bénéficiera aux entreprises de toutes tailles dans leur parcours de transformation par l’IA. »
puis