La grande conférence de Red Hat aura arboré les deux mêmes lettres qui animent toutes les conférences IT depuis plus d’un an : IA ! L’intelligence artificielle envahit l’écosystème IT de l’OS RHEL jusqu’à l’orchestrateur OpenShift…
De l’IA partout, oui… mais de l‘IA open source surtout… Pour son « Summit 2024 », Red Hat a prédit un futur dopé à l’IA pour tous les IT. « Certains sont peut-être encore sceptiques, mais l’IA ne va pas disparaître. Avec l’essor de l’open source, l’IA prendra encore plus d’ampleur. Nous devons donc trouver comment vous en faire bénéficier au mieux. Et je pense que l’open source est le meilleur modèle pour cela » a d’emblée annoncé Matt Hicks le CEO de Red Hat en plaçant cette édition 2024 du Red Hat Summit « à l’intersection entre l’open source et l’IA ».
RHEL AI, un Linux pour créer des IA
Parmi les annonces phares, on retiendra ainsi le lancement de « RHEL AI », une nouvelle offre qui combine le système d’exploitation Red Hat Enterprise Linux, les modèles de langage en open source « Granite » d’IBM et les outils d’alignement d’InstructLab AI.
RHEL AI se veut une plateforme open source basée sur des modèles fondation open source pour personnaliser, développer, tester et déployer des modèles IA génératifs spécifiquement adaptés aux besoins de l’entreprise en utilisant moins de données d’entraînement et en réduisant à la fois les coûts d’entraînement et d’inférence.
Plus précisément, l’offre RHEL AI se démarque à la fois par la présence des LLM « Granite » d’IBM (notamment du modèle Granite-7B) diffusés en open source et des outils du projet open source InstructLab pour permettre à des experts dans un domaine donné mais sans expérience de Data Science, d’entraîner et d’ajuster (fine-tuner) leurs propres modèles.
InstructLab fournit les Workloads, outils et interfaces pour créer simplement des modèles personnalisés en réentraînant le modèle de base Granite-7B avec vos propres données et savoirs.
Pour l’instant seul le modèle « 7B » est intégré, mais les autres modèles Granite « 3B », « 34B » et « Code » (pour la génération de code informatique) sont attendus rapidement.
OpenShift AI, pour de l’IA à grande échelle
Autre annonce phare, qui est en réalité un prolongement naturel de la première, Red Hat a officialisé OpenShift AI 2.9. Lancée en juillet 2023 (sous le nom OpenShift Data Science), OpenShift AI est une plateforme flexible et évolutive pour gérer et exécuter l’intégralité du cycle de vie des applications IA, de l’apprentissage des modèles à leur exploitation au sein d’apps. La plateforme simplifie toutes les problématiques d’entraînement de grands modèles et d’inférences à grande échelle en s’appuyant sur la souplesse de Kubernetes et l’accélération matérielle par GPU.
La nouvelle version prend désormais en compte les scénarios à l’Edge et s’inscrit complètement dans la logique de création induite par RHEL AI : Vous commencez par utiliser InstructLab CLI sur un portable pour préparer les données et savoirs et maîtriser l’environnement. Puis vous utilisez l’image RHEL AI sur un serveur Bare Metal, sur une VM ou dans un cloud pour entraîner une version haute-fidélité du modèle. Pour passer à l’échelle et entraîner ou inférer plus rapidement vous pouvez exploiter les mêmes matériaux sur OpenShift AI.
LightSpeed, l’arme IA de l’IT
L’an dernier, Red Hat lançait « LightSpeed », une IA générative pensée pour l’automatisation et capable de transformer une demande exprimée en langage naturel en scripts et codes afin d’automatiser aisément des tâches IT mais aussi combler les fossés de compétences entre administrateurs novices et administrateurs chevronnés (Red Hat présente LightSpeed comme un « multiplicateur de force » à l’heure de la pénurie de talents IT).
LightSpeed avait jusqu’ici été uniquement intégré à Ansible. Mais Red Hat avait bien d’autres idées derrière la tête. À l’occasion de son Summit 2024, l’éditeur a dévoilé OpenShift LightSpeed (disponibilité d’ici la fin 2024) et RHEL LightSpeed (disponibilité encore inconnue).
Typiquement OpenShift LightSpeed peut être utilisé pour créer des automatisations au sein d’OpenShift ou pour obtenir des suggestions sur l’utilisation de certaines fonctionnalités comme l’autoscaling par exemple.
RHEL LightSpeed peut répondre à n’importe quelle question sur l’utilisation et la configuration de Linux, pour planifier des corrections, pour générer des commandes et scripts.
L’objectif de ses variantes de LightSpeed est de simplifier et accélérer la montée en compétence des novices OpenShift/RHEL et de rendre plus efficaces et plus disponibles les IT expérimentés.
puis