Les avancées récentes en matière d’intelligence artificielle et leur influence potentielle sur le domaine de la cybersécurité…

Au cours de ces dernières années, l’intelligence artificielle (IA) a progressé à pas de géants et occupe une place centrale dans le paysage technologique actuel. Selon une enquête menée par Gartner, l’investissement dans les produits logiciels d’IA devrait atteindre 62 milliards de dollars en 2022. Cela ne représente que la partie émergée de l’iceberg, en comparaison de l’immense potentiel de l’IA. Toutefois, si la démocratisation croissante des capacités d’IA en fait un outil accessible aux défenseurs, c’est également le cas pour les acteurs malveillants. Les acteurs de la sécurité s’intéressent donc de près aux développements dans ce domaine afin de mieux protéger les entreprises et les particuliers contre les menaces potentielles en tentant d’anticiper les futures évolutions et leur influence sur la sécurité informatique.

Des innovations accessibles à tous, notamment aux adversaires

Le degré de sophistication des solutions d’IA a atteint ces dernières années un niveau qui aurait été inimaginable il y a seulement dix ans et occupe une place de plus en plus importante au sein des solutions technologiques de tous les acteurs. Cette tendance ne devrait faire que s’accélérer dans les années à venir. Pour prendre un exemple, selon les prédictions de Gartner concernant les prochaines évolutions technologiques, l’IA générative devrait être à l’origine de 10 % de l’ensemble des données produites d’ici 2025, contre 1 % actuellement. Cela est dû notamment à une intégration accrue du Machine Learning, mais également à une plus grande accessibilité des solutions d’IA au grand public.

Une grande partie des progrès de l’IA est due aux avancées des réseaux neuronaux profonds.  Par exemple, la solution AlphaFold, développée par Google DeepMind, a notamment permis de prédire la structure tridimensionnelle des protéines en fonction de leurs séquences d’acides aminés. Ces réseaux neuronaux sont également utilisés pour la production de code source et les chercheurs de Google et d’OpenAI ont montré qu’il était désormais possible de générer du code source à partir d’instructions en langage naturel. Cela permet de rendre la programmation d’IA accessible aux développeurs, mais également aux acteurs malveillants et pourrait favoriser la production automatisée de malwares à moindre coût.

En outre, certaines capacités liées aux réseaux neuronaux, comme la possibilité de créer de fausses images ou de faux contenus textuels qui semblent de plus en plus réalistes et crédibles, constituent des armes nouvelles qui viennent s’ajouter à l’arsenal potentiel des adversaires pour la génération d’attaques par point d’eau (en anglais watering-hole) qui utilisent du contenu Internet ou des techniques comme le phishing, mais pourraient également permettre aux attaquants de circonvenir certaines mesures de sécurité à l’avenir. Ainsi, ces avancées technologiques impressionnantes et le panel de capacités liées à l’IA ouvrent des perspectives inédites dans les domaines de la programmation automatique, du deep learning, mais pourraient, en raison de leur accessibilité accrue générer de nouveaux types de risques.

De nouvelles perspectives d’évolution en matière de cybersécurité

Afin de limiter ces risques, il est donc essentiel d’intégrer l’IA aux stratégies de cybersécurité, afin de disposer de dépenses qui profitent de ses avantages. C’est devenu un enjeu majeur pour la protection des données. Le fait que les réseaux neuronaux puissent apprendre plus rapidement et résoudre des problèmes autrefois insolubles, alliée à l’utilisation de superordinateurs dotés d’une puissance de calcul inégalée, à l’image du Research SuperCluster (RSC) dont le lancement a été récemment annoncé par Meta, devrait ouvrir de nouvelles perspectives applicatives dans le domaine de la cybersécurité. C’est pourquoi les spécialistes s’intéressent à ces nouvelles possibilités de l’IA, non seulement pour parer les éventuelles nouvelles menaces, mais également pour développer de nouveaux outils capables d’exploiter ce potentiel encore inexploré.

Afin de se distinguer de la concurrence et de garder une longueur d’avance, les éditeurs de solutions de sécurité devraient se concentrer sur le développement de nouvelles applications en matière de Machine Learning dans deux domaines. Le premier concerne le Machine Learning orienté utilisateur et appliqué à la sécurité, qui permettra de créer des produits capables d’hiérarchiser les alertes de sécurité et recommander des politiques de sécurité appropriées, augmentant ainsi l’efficacité et l’efficience du personnel de sécurité. Le second concerne l’exploitation des réseaux neuronaux en vue de résoudre des problèmes considérés comme insolubles jusqu’à présent, comme l’identification automatique des vulnérabilités ou l’installation de correctifs automatisée, qui nécessitent encore aujourd’hui une supervision humaine, ce qui devrait également permettre de réduire les coûts liés au développement applicatif pour les entreprises.

Le développement vertigineux et constant de l’IA a donné naissance à de nouvelles capacités et applications dans de nombreux domaines, qui sont désormais accessibles aux développeurs de solutions de cybersécurité comme aux attaquants. Les professionnels de la sécurité s’efforcent de suivre de près ces évolutions dans le but de se préparer à faire face à de nouveaux types d’attaques, de développer des outils et techniques et d’explorer de nouvelles évolutions qui permettront d’assurer la sécurité des systèmes d’entreprises – ou de particuliers – contre les menaces actuelles et à venir.
__________________

Par Joshua Saxe, Responsable scientifique chez Sophos

 

A LIRE EGALEMENT

Threat Hunting : la voie incontournable pour faire face aux piratages informatiques…

Cybersécurité et IA, une arme à double tranchant ?

« Offrons des débouchés à nos enfants en prônant une filière européenne de l’IA, du cloud, de la cybersécurité, des Deep Techs »

Le pouvoir des machines : quand automatisation & IA riment avec cybersécurité.