Ce n’est pas nouveau. Les IA génératives sont douées pour les imitations. Elles peuvent notamment reproduire votre voix après un apprentissage plus ou moins long. De moins en moins long. Il suffit au nouveau Voice Engine d’OpenAI d’un échantillon de 15 secondes pour lire ensuite n’importe quel texte avec votre voix.
Les Deepfakes… Le phénomène inquiète. L’IA générative peut imiter n’importe quoi, n’importe qui, avec un réalisme troublant et bluffant. L’image comme la voix. La technologie a déjà été utilisée par des cybercriminels pour imiter la voix d’un dirigeant et demander un versement d’argent en urgence par exemple. Elle a aussi été utilisée à des fins de démonstration pour démontrer comment il était possible de faire dire n’importe quoi à n’importe quelle personnalité publique et créer ainsi un message viral à travers les réseaux sociaux.
Mais jusqu’ici, la technologie nécessitait souvent pas mal de préparation et un temps d’apprentissage non négligeable. Mais, ça, c’était avant…
Dans un nouveau billet de Blog, OpenAI dévoile les premiers résultats d’un projet de recherches qui ne peut être mis entre toutes les mains tant il présente de risques de mauvais usages.
Son nouveau « Voice Engine » peut créer une voix de synthèse à partir d’un simple enregistrement de voix d’une quinzaine de secondes. L’IA peut alors utiliser cette voix, votre voix, pour lire du texte à voix haute. C’est d’ailleurs cette technologie qui anime la fonctionnalité « Read Aloud » (lecture vocale) de ChatGPT. Le tour de force, c’est qu’il peut utiliser cette voix pour lire du texte dans votre langue ou n’importe quelle autre langue avec un très léger accent plus charmant que dérangeant.
Voici un exemple :
Ici, l’échantillon de 15 secondes en anglais utilisés pour personnaliser le modèle :
Maintenant, la lecture en français du texte suivant générée par l’IA à partir de l’échantillon ci-dessus. « L’ amitié est un trésor universel. D’où que nous venons, elle apporte joie, soutien et rires dans nos vies. Les vrais amis se tiennent toujours à nos côtés: contre vents et marées, ils partagent nos joies et soignent nos chagrins. Chérissons les liens d’amitié qui nous unissent, par delà la diversité de nos langues ou de nos cultures. »
OpenAI rend sa technologie disponible auprès d’un petit groupe d’éditeurs et d’ESN dans le domaine de l’éducation et de la santé notamment qui se sont engagées à respecter les règles éthiques définies par OpenAI et à ne pas utiliser la technologie pour reproduire la voix de personnalité sans leur consentement explicite préalable. Par ailleurs, OpenAI affirme que sa technologie intègre un marquage numérique qui permet d’identifier l’origine « IA » des clips audios générés avec « Voice Engine ».
Le modèle est notamment utilisé pour permettre à des personnes ayant les plus grandes difficultés à s’exprimer oralement de retrouver l’usage de la parole avec leur propre voix synthétisée. Il est aussi employé dans des logiciels d’assistance à la lecture, de traduction de contenus et d’amélioration des services essentiels dans les communautés éloignées.
Évidemment, la technologie soulève de nombreuses questions éthiques. Elle surgit alors que la FCC (Federal Communications Commission) américaine vient d’interdire l’usage de voix générées par IA par les systèmes d’appel automatisés après que des milliers d’Américains aient récemment reçu des messages vocaux utilisant la voix clonée du président Joe Biden.
Mais selon OpenAI, il est aussi important de continuer à développer de tels modèles et à partager les recherches IA pour encourager la résilience sociétale face aux défis des modèles génératifs convaincants.
ChatGPT toujours plus accessible
OpenAI a aussi annoncé cette semaine la possibilité d’utiliser la version gratuite de ChatGPT instantanément sans passer par la moindre authentification. Dans ce cas, des filtrages plus importants sont automatiquement imposés et certains sujets ou catégories de questions ne peuvent être abordés avec l’IA.
puis