LaboFnac

Voici Norman, une IA dépressive et un brin psychopathe

Trois chercheurs du MIT ont présenté une intelligence artificielle baptisée Norman. Une IA "psychopathe", mais qui ne l'est qu'à cause de ce que les humains lui ont inculqué.

Ce qu’il y a aussi de fascinant avec l’IA, ce sont les débats qu’elle suscite. Elle oppose d’ailleurs des grands noms de la tech, comme Elon Musk et Mark Zuckerberg, qui se sont écharpés en ligne sur le sujet. Pour certains, l’IA va permettre d’améliorer le monde de bien des façons, tandis que d’autres prédisent des scénarios catastrophes façon Terminator. Mais si l’avenir reste incertain, et qu’on imagine qu’un juste milieu sera trouvé, des chercheurs du Massachusetts Institute of Technology (MIT) ont en tout cas présenté une IA psychopathe.

norman ia

© MIT

« Nous vous présentons Norman, la première IA psychopathe au monde », peut-on lire sur le site dédié à l’étude. Norman est du genre à voir la vie en noir, et les chercheurs l’ont confronté au test de Roschach, qui consiste à interpréter des taches d’encre, et ont comparé les résultats obtenus avec ceux d’IA standards. Là où une IA classique voit « un vase avec des fleurs », Norman voit « un homme abattu ». Et la différence est aussi saisissante face à ce que les autres voient comme « une photographie d’un gant de baseball ». L’IA du MIT voit alors « un homme assassiné à la mitraillette ».

Un entraînement poussé

Mais pourquoi Norman a-t-il les idées si sombres ? Les chercheurs ont voulu montrer, avec cette expérience, que ce n’est pas l’algorithme d’une IA qui est biaisé, mais le contenu auquel elle est soumise. En effet, Norman est une IA conçue pour sous-titrer des images avec un apprentissage automatique (machine learning). En l’occurrence, Norman a ici été soumis à une section de Reddit particulièrement sombre. « Nous avons formé Norman sur des légendes d’images à partir d’un subreddit infâme (le nom est expurgé en raison de son contenu graphique) qui est dédié à documenter et observer la réalité troublante de la mort », expliquent les chercheurs.

norman ia taches

© MIT

Mais « psychopathe » est peut-être un terme un peu exagéré, dans la mesure où Norman ne fait que retranscrire les seules connaissances qu’il possède. Les chercheurs proposent toutefois de l’aider à colorer un peu sa vie et ses idées, en répondant vous-même au test des tâches d’encre. Des réponses d’utilisateurs qui seront soumises à l’IA dans le but de réajuster sa propre perception des choses.

Norman n’est pas une première

Ces chercheurs du MIT Media Lab n’en sont pas à leur coup d’essai en matière d’IA un peu particulière. En 2016, ils ont présenté la Machine à Cauchemar, qui s’interroge sur la possibilité de détecter et induire des émotions telles que la peur chez les humains. En 2017, ils ont présenté Shelley, une IA qui a écrit plus de 200 histoires d’horreur en apprenant des idées effrayantes des humains. À l’inverse, ils ont aussi développé un programme Deep Empathy, en partenariat avec l’UNICEF, qui se demande si l’IA peut accroître l’empathie pour les victimes de catastrophes lointaines en créant des images qui simulent des catastrophes plus près de chez elles.

Romain Challand

Romain Challand

Journaliste


    Contenus associés

    Partager cet article :

    Attention, vous avez déjà 3 produits dans le comparateur : supprimez un de ces produits pour rajouter celui-ci au comparateur.