Ta chaussette, là, c’est vraiment un éléphant?

Allez, je vais vous en raconter une bien bonne!

Généralement, après une introduction pareille, vous avez la moitié de votre lectorat qui est passée à un autre article…

Pour l’autre moitié, la voilà, la bien bonne: l’Union européenne, cherchant à accélérer les contrôles aux frontières, a développé un logiciel de détection automatique de mensonge. «iBorderCtrl», ça s’appelle. Un truc du tonnerre, à rendre jaloux Beijing et Xi Jinping. Et ça marche? Pour le site web de «iBorderCtrl», sans problèmes. Pour la journaliste italienne qui l’a testé, un peu moins. Elle s’est présentée en Hongrie et a dû répondre, par écran interposé, à 16 questions, du genre: nom, pays d’origine, durée du séjour, etc. Basique, quoi. Elle a répondu sans tricher, le logiciel suivant les microgestes et les expressions de son visage lors de cet entretien virtuel. Résultat des courses? Recalée, la citoyenne italienne! Madame était jugée potentiellement dangereuse, le système estimant à tort qu’elle avait menti sur sa date de naissance, son passeport et sa destination.

Pourquoi je vous en parle, de ce logiciel plein d’algorithmes, qui se goure grave? Parce qu’à la Manip (Mission d’action novatrice de l’industrie privée), sous la houlette de Carine Cordonnier-Cavin (dite Triple C), on avait décidé de libérer cette chère DRH de certaines tâches en recourant à l’intelligence artificielle, par exemple pour le recrutement. Vous vous présentez pour un poste? Le premier entretien d’embauche se passe face à un agent conversationnel, un «chatbot» dans le délicieux jargon de ces gens-là. Même topo que plus haut: l’intonation de la voix, les expressions faciales et le champ lexical vont être utilisés par l’intelligence artificielle (IA) pour faire un matching. Autrement dit, une équivalence avec le profil du poste. Et ce n’est que le début, puisque déjà certaines agences de recrutement emploient des applications qui vont fouiller la Toile à la recherche de mots clés correspondant au poste. On vous passe les autres techniques aux vocables toujours plus exotiques, comme les serious games, les stories recrutement pour trouver les soft skills, sans oublier les capsules vidéo, tout cela remplaçant le désormais dépassé CV.

Evidemment, un avenir aussi radieux ne va pas sans petits problèmes annexes. Comme ceux du programme – aujourd’hui abandonné – de recrutement d’Amazon, fondé lui aussi sur l’intelligence artificielle. Son apprentissage s’était fait, comme dans tous les programmes d’IA à partir des données fournies, à savoir celles des dix dernières années de recrutement d’Amazon. Et que croyiez-vous qu’il arrivât? Ben, notre bon gros programme (très) artificiellement intelligent écartait systématiquement toutes les candidatures féminines, puisque la plupart des embauchés étaient des hommes… Oh, mais c’est qu’il faut lui apprendre l’égalité à votre algorithme, monsieur Jeff Bezos! On espère que ceux de vos futurs voyages dans l’espace sont un peu mieux bidouillés…

Question égalité, on ne peut pas dire que les programmeurs et les mathématiciens qui bricolent programmes et algorithmes soient très pointus en la matière. Triple C devrait se méfier. Par exemple, la reconnaissance faciale, dont on vante tant les progrès et qui s’installe peu à peu dans les aéroports. Un test de sensibilité mené par un institut spécialisé a montré que l’un des meilleurs logiciels en la matière se trompait une fois sur 10000 sur les visages de femmes blanches, mais une fois sur 1000 quand il s’agissait de femmes noires. Un biais qui se retrouve dans les autres logiciels d’IBM, Microsoft ou autre Face++: les mieux reconnus sont toujours les mecs blancs. Qui sont aussi ceux qui ont conçu cette belle informatique discriminatoire. Vous me direz que, jusqu’à ce que la Manip embauche une femme noire, de l’eau aura passé sous les ponts et que cet acte reste réservé à l’entreprise de nettoyage, qui n’a que faire de l’intelligence artificielle. Je vous l’accorde. Mais où va-t-on si on ne peut plus ricaner des miracles annoncés par les technoprophètes? Hein, où va-t-on, je vous le demande? A l’étage supérieur. Celui des réseaux neuronaux en informatique, le must de l’IA. On ne sait pas trop comment ils fonctionnent, mais les résultats sont quelquefois cocasses. Ainsi des images sans aucun sens pour un être humain sont identifiées comme des représentations d’animaux précis. Ou bien ils reconnaissent correctement un zèbre, mais s’ils n’ont pas emmagasiné suffisamment d’exemples, vous pouvez augmenter le nombre de pattes du bestiau, cela reste toujours un zèbre. Même à huit pattes. A l’EPFL aussi, ils savent se marrer. Ils ont démontré qu’un système de réseaux de neurones profonds prenait l’image d’une chaussette… pour un éléphant.

Bien sûr, la direction de la Manip avait clairement besoin d’un apport en neurones, mais de là à tenter une transplantation de ce genre de réseaux, y avait comme un problème. Même en demandant à Guido Fifrelin de mettre des chaussettes propres.