Établissement public administratif national placé sous la tutelle du ministre chargé de la recherche, l’Académie des Technologies vient de publier son rapport « Big Data – Questions éthiques » qui s’intéresse aux technologies Big Data et à l’exploitation des données notamment par l’intelligence artificielle ainsi qu’à leurs interactions actuelles et futures avec la société.
Le rapport, dirigé par Louis Dubertret et Alain Bravo, rappelle que le contrôle des données est un élément clé de l’indépendance nationale et de la liberté des citoyens. C’est un domaine où l’innovation et la création de valeur sont particulièrement importantes mais modifient et modifieront la vie humaine en profondeur.
De façon un rien pessimiste, mais néanmoins réaliste, les rapporteurs rappellent qu’ « il faut tenir compte d’une loi, constamment vérifiée dans la vie quotidienne : un nouvel outil sera toujours utilisé de la façon la plus imprévisible, voire la plus nocive, quelque part dans le monde, quelles que soient les règles de son bon usage. Les spécialistes de la sécurité informatique vivent cela au quotidien. »
Le rapport liste les problèmes éthiques soulevés à la fois par la collecte et le stockage des données, par les traitements appliqués à ces données et par l’utilisation des résultats de ces traitements.
Il formule surtout plusieurs recommandations « éthiques » que l’on peut ainsi résumer et que les entreprises sont vivement encouragées à suivre :
1/ Chaque individu doit rester propriétaire de sa vie privée, chacun évaluant le périmètre de cette dernière comme il le souhaite.
Ce qui implique de bien informer les utilisateurs sur l’utilisation qui sera faite des données (ce qu’impose par ailleurs le RGPD) mais aussi de contrôler strictement la fusion entre les fichiers (notamment de santé, finances, géolocalisation, etc.), d’assurer la traçabilité des utilisations, et de développer des technologies permettant aux individus d’accéder aux données le concernant et d’exercer son droit au secret, à la rectification et à l’oubli (là aussi c’est dans le RGPD).
2/ Le contrôle de la qualité des algorithmes.
La qualité des algorithmes devrait pouvoir être contrôlée et certifiée afin de vérifier que les résultats sont adaptés aux objectifs de la recherche et que leurs utilisations différencient statistiques collectives et applications individuelles. Ceci afin « de ne jamais utiliser les résultats obtenus par une approche statistique, à une situation individuelle ou exceptionnelle, sans passer par un expert capable de traduire en bénéfices/risques individuels des informations issues de l’analyse de données massives issues d’études de population ».
3/ La mise en place de systèmes de vigilance sur l’utilisation éthique des résultats obtenus par la technologie des Big Data.
L’objectif est ici de minimiser la tentation de confiscation de ces résultats au profit des plus puissants et des plus riches, de minimiser les risques de monopole mondial échappant à la régulation des États, de minimiser les risques de voir la collecte et le traitement des données ne pas bénéficier d’abord à ceux qui en sont à l’origine (ce qui est essentiel en matière de santé, de finances et d’agriculture).
4/ Le contrôle de l’autonomie des outils utilisant l’intelligence artificielle
Le recours aux Big Data et à l’IA ne doit pas porter atteinte au principe fondamental de responsabilité. Pour les rapporteurs, il doit donc toujours être possible de déterminer quel est l’humain qui est – au final – responsable de l’impact direct ou indirect de ces outils sur d’autres humains !
Très riche, le rapport évoque les relations entre les technologies « Big Data » et le commerce, la santé, l’agriculture, la finance et la sécurité. Il revient sur les problématiques d’individualisation de l’information, de fragilités des algorithmes, et sur les dérives idéologiques qui peuvent en découler.
De façon plus anecdotique, l’Académie des technologies s’est aussi penchée sur les implications des compteurs électriques communicants. « L’arrivée des compteurs communicants (en France, Linky) fait entrer davantage le monde de la consommation d’énergie dans celui des Big Data. L’enregistrement des données de consommation toutes les cinq minutes, s’il ne permet pas contrairement à ce que certains croient, de savoir quels appareils sont utilisés, permet un « profilage » des clients beaucoup plus précis pour faire des offres commerciales adaptées, comme dans d’autres domaines commerciaux. Il permet aussi à l’opérateur de réseau, sans pour autant publier les données, de mieux maîtriser le réseau… ». Rappelons que la CNIL a d’ailleurs mis en demeure EDF et Engie en les invitant à se conformer au règlement général sur la protection des données (RGPD) au plus vite, sous peine de sanctions.
Si vous ne savez pas quoi faire ce week-end ou en cette soirée de Saint Valentin, nous vous invitons à lire cet inspirant rapport librement téléchargeable.