XXII, l’un des leaders de la vision par ordinateur à base d’IA, porte sur la place publique une charte éthique et invite tous les éditeurs de logiciels s’appuyant sur des intelligences artificielles à eux aussi adopter cette charte.

Comment faire parler de soi tout en tentant de faire avancer les choses dans le bon sens ? C’est au final ce que vient de réussir XXII un acteur français peu connu du grand public et expert des technologies de la vision par ordinateur à base d’IA. Sa solution en mode SaaS est notamment utilisée par de nombreuses villes et sites privés pour contrôler le trafic, détecter des intrusions, surveiller les regroupements, verbaliser les stationnements gênants, lutter contre les dépôts sauvages, etc.

La vision par ordinateur a fait d’énormes progrès depuis l’apparition des algorithmes de Deep Learning et les progrès dans l’IA qui en découlent. Mais c’est aussi l’un des domaines où les biais de l’IA ont le plus souvent été pointés du doigt avec des discriminations sur la couleur de peau par exemple simplement par des entraînements inadéquats des réseaux de neurones.

L’IA soulève des problématiques éthiques aussi bien au travers de ses biais qu’au travers de ses usages. « L’intelligence artificielle nous offre aujourd’hui cette opportunité d’augmenter les sens, notamment la vision. En améliorant et en décuplant les performances machine, la vision assistée par ordinateur affranchit l’humain des tâches les plus complexes et fastidieuses, lui permettant ainsi de se concentrer sur des missions créatives et stimulantes, explique William Eldin, CEO et co-fondateur de XXII. Cependant, pour éviter toute dérive, nous nous devons d’encadrer notre démarche technologique en toute transparence ; au travers d’un engagement éthique de l’utilisation de l’IA.”

Un engagement éthique qui se traduit par la publication d’une charte éthique. « Cette charte éthique XXII énonce les grands principes de comportements individuels et collectifs qui doivent guider chaque collaborateur, quel que soit sa fonction ou son titre au quotidien. Cette charte est la base d’un questionnement que nous voulons permanent et l’expression de notre volonté de progresser. L’objectif étant de faire évoluer continuellement nos logiciels et d’être transparent dans notre façon de développer nos produits » détaille William Eldin.

En publiant ouvertement cette charte, XXII ne cherche pas seulement à sensibiliser ses développeurs, ses chefs produits, ses clients et ses partenaires. L’éditeur veut aussi montrer l’exemple et entraîner dans son mouvement l’ensemble des éditeurs et acteurs français créant et exploitant des IA. Les dirigeants de XXII en sont convaincus, une telle démarche éthique est essentielle à l’éclosion d’un écosystème technologique bienveillant et d’une confiance dans le numérique et l’IA. « Les principes que nous avons fixés sont notre ligne de conduite à tous niveaux de l’entreprise. Ils seront respectés, appliqués et incarnés pour valoriser le savoir-faire technologique avec exemplarité » ajoute William Eldin.

Cette charte repose sur 5 mots clés qui sont l’essence même de 5 principes éthiques : Bienfaisance, Non-malfaisance, Autonomie, Justice, Explicabilité/Transparence.

    • Bienfaisance : l’IA doit renforcer le bien-être individuel et collectif ainsi que le bien commun.
    • Non-malfaisance : l’IA ne doit ni porter atteinte, ni nuire, ni aggraver une situation.
    • Autonomie : L’IA doit favoriser l’autonomie des utilisateurs. Et l’utilisateur doit être en complète capacité de conserver son pouvoir de décision.
    • Justice : L’intelligence artificielle ne doit en aucune circonstance être biaisée et ne doit pas porter préjudice à l’être humain.
    • Explicabilité & Transparence : l’IA ne doit pas être une boîte noire, un processus obscure, mais au contraire être éclairée par des documentations approfondies et des technologies permettant de voir et comprendre ce qui s’y passe.

La charte intégrale est à retrouver ici : XXII-202201-Charte-ethique.pdf