Microsoft vient d’alléger son pool rédactionnel de journalistes dont la vocation était essentiellement de sélectionner les articles à placer sur la Une de son site d’actualités MSN/Bing Actu. La raison ? L’éditeur a mis en place une IA pour automatiser le processus de sélection et préparer les articles en y associant un résumé du texte (généré automatiquement par l’IA) et une illustration sélectionnée (elle aussi automatiquement par l’IA) dans sa base d’images.

En virant les journalistes, l’éditeur s’attendait très probablement à un débat sur « les IA qui tuent les métiers et remplacent les collaborateurs », mais le débat n’a pas eu le temps d’éclater, l’IA ayant trouvé le moyen de faire une bourde très malvenue en pleine crise « Black Lives Matter ».

L’IA a en effet automatiquement sélectionné un article sur le racisme dont a été victime l’une des deux chanteuses du groupe Little Mix mais l’a illustré avec la photo de l’autre chanteuse. Les deux chanteuses étant issues des minorités américaines, cette confusion a immédiatement déclenché des accusations de racisme à l’encontre MSN comme le raconte The Guardian.

La raison qui a mené l’IA à se tromper d’illustrations n’a pas été déterminée. Probablement une mauvaise identification au départ dans les sources d’images. Mais l’erreur tombe au bien mauvais moment en plein débat américain sur le racisme, sur l’usage des IA pour reconnaître les visages des manifestants et sur les biais des IA.

Pire encore, selon The Guardian, les journalistes qui restent chez MSN US sont essentiellement là pour vérifier ce que l’IA sélectionne automatiquement. Ils ont reçu comme instruction de supprimer de la Une tout papier que l’IA sélectionnerait autour du fait que Microsoft s’est débarrassée de ses journalistes humains au profit d’une IA ou autour de la bévue de cette même IA. Bref, tout ceci n’est vraiment pas glorieux.

Encore deux ou trois gaffes de ce genre et l’IA finira au placard, comme une certaine Microsoft Tay…