Les algorithmes et moi, émoi, émoi…

Depuis quand avons-nous le mot « algorithme » aussi facilement à la bouche ? En ce moment, j’ai l’impression de le lire ou l’entendre à la même fréquence que climat,  bienveillance ou sororité. Moi même, avec mon navrant 3,5 en maths au bac (section littéraire) et une incompétence radicale à effectuer une simple équation, je l’emploie désormais à tours de bras, le plus souvent lors de discussions énervées et déprimantes en lien avec :

— les réseaux sociaux (qui me proposent du contenu outrageusement filtré)
— Amazon (qui prétend savoir mieux que moi ce qui est susceptible de m’intéresser)
— Google (dont la prétendue impartialité dans les recherches est toute relative)(si vous n’êtes pas convaincu.e, je vous invite à visionner ce talk de Andreas Ekström intitulé The moral bias behind your search results).

En peu de temps ce mot très récemment implanté dans mon vocabulaire, a pris une connotation des plus menaçantes, raison pour laquelle j’ai commencé à m’intéresser de plus près à ce sujet. Ma première lecture en 2017, Homo Deus n’a pas franchement contribué à calmer mes inquiétudes puisque selon son auteur Yuval Noah Harari, les algorithmes domineront le XXIème siècle :

Le concept d’algorithme (…) est de loin le plus important de notre monde. Si nous voulons comprendre notre vie et notre futur, nous ne devons pas ménager nos efforts pour comprendre ce que sont les algorithmes et comment ils sont liés aux émotions. »

Oui : aux émotions. Car figurez-vous que d’après Harari – et visiblement de nombreux biologistes – nous ne sommes nous mêmes rien d’autre que de puissants algorithmes. Voici par exemple comment nous traitons selon lui le problème de la reproduction :

La sélection naturelle a produit la passion et le dégoût sous la forme d’algorithmes instantanés visant à évaluer les chances de reproduction. La beauté est synonyme de « bonnes chances d’avoir une progéniture prospère ». Lorsqu’une femme se dit « Waouh ! Qu’il est beau ! », ou quand une paonne voit un paon et se dit « Bonté divine ! Quelle roue ! », ils font le même genre d’opérations que le distributeur automatique. Alors que la lumière reflétée par le corps du mâle touche la rétine de la femelle, des algorithmes extrêmement puissants affûtés par des millions d’années d’évolution se mettent en branle. »

Autrement dit il n’y aurait pas de siiiii grande différence entre moi et mon ordinateur ; et quand bien même, celles-ci s’amenuisent à vitesse grand V. Enfin, si nos émotions et nos pensées sont un matériau exploitable pour notre propre cuisine interne, rien n’empêche donc un organisme externe, par exemple un ordinateur, d’interagir avec elles et les manipuler à loisir. Bienvenue en enfer.

Afin de préserver ma santé mentale, j’ai ensuite évité de justesse de plonger dans le récent ouvrage de Cathy O’Neil intitulé Algorithmes, la bombe à retardement qui soulève tous les problèmes – et ils sont nombreux – que la domination de notre monde par les algorithmes ne manquera pas de produire. L’entretien proposé par Le Monde m’a suffi.

Finalement, c’est avec Le temps des algorithmes que j’ai enfin trouvé mon miel. Loin des deux ouvrages ci-dessus, qui à certains égards frôlent la dystopie, les auteurs Serge Abiteboul et Gilles Dowek, chercheurs à l’INRIA nous racontent de manière simple et concise comment les algorithmes sont entrés dans nos vies, comment ils changent la donne en profondeur – remettant par exemple en question  l’idée même de travail, la notion de salariat et même celle de propriété, sans parler de celle de gouvernement – et quelles grandes questions en découlent. Si elles sont nombreuses, j’ai aimé que les auteurs rappellent que les algorithmes sont ce que nous faisons d’eux et l’inscrivent dans la continuité de toutes les choses que nous avons inventé depuis l’aube des temps pour nous faciliter la vie.

On y apprend aussi une foule de petites choses passionnantes. Par exemple que ces formules qui nous font si peur aujourd’hui font partie de nos vies depuis un bon moment : les premières machines capables d’exécuter des algorithmes – les carillons des églises – datent de la fin du moyen-âge. Ou encore que l’on peut accéder aux algorithmes de calcul de nos impôts et prestations sociales via une plateforme ouverte Open Fisca qui nous permet donc de comprendre comment ils sont calculés. Comprendre. Et donc reprendre le pouvoir.

Mais pour finir, c’est le soldat inconnu qui est venu amorcer une réconciliation avec les algorithmes.

Avez-vous vu passez ce bouleversant portrait, il y a quelques semaines de cela ? Il s’agit du « visage du soldat inconnu », créé numériquement, à l’aide de différents algorithmes, à partir de dizaines de milliers de portraits d’époque. L’idée étant de recréer un visage à partir de « tous les visages » de la même manière que le soldat inconnu incarne tous les soldats qui sont morts au front. En le regardant, le mot algorithme s’associait enfin à quelque chose de réjouissant : une véritable oeuvre d’art.

Et après quelques recherches, il s’est avéré que arts et algorithmes avaient déjà largement commencé à marcher main dans la main. Il y a deux ans, un groupe de recherche français créait DeepBach un programme capable d’inventer de « nouveaux morceaux » de Bach à partir de l’oeuvre existante (de manière assez convaincante pour duper une oreille avertie) et enchaînait avec Daddy’s Car, un morceau des Beatles plus vrai que nature. À peu près à la même période, une autre équipe fabriquait de toute pièce un « Nouveau Rembrandt » un portrait qu’on aurait juré dessiné par le maître, texture des coups de pinceaux comprise.

Bien entendu, tous ces projets soulèvent les passions. N’est-ce pas les ressusciter un peu que de permettre, d’une certaine manière, à ces grands hommes de poursuivre leur oeuvre ? Ou bien est-ce là une abominable traîtrise ? Avez-vous votre idée sur la question ?

Et de fil en aiguille je me suis rappelée de cet autre algorithme, de fiction cette fois, mais qui a donné naissance à l’une des plus belles histoires d’amour que la littérature française ait porté ces dernières années, celle d’Elea et Païkan héros de La nuit des temps de René Barjavel. Il y dépeint un monde perdu qui ressemble fort, par certains aspects, à celui qu’on nous prédit. Ici, les jeunes gens, dès l’âge de sept ans, sont destinés l’un à l’autre par un ordinateur omniscient qui prend presque toujours les meilleures décisions. Glaçant, à première vue. Mais lisez plutôt : 

Elle (Eléa) expliqua que la clé portait, inscrits dans sa substance, tout le bagage héréditaire de l’individu et ses caractéristiques physiques et mentales. Elle était envoyée à l’ordinateur central qui la classait, et la modifiait tous les six mois, après un nouvel examen de l’enfant. À sept ans, l’individu était définitif, la clé aussi. Alors avait lieu la Désignation.

— La désignation, qu’est-ce que c’est ? demanda Léonova.

— L’ordinateur central possède toutes les clés, de tous les vivants de Gondawa, et aussi des morts qui ont fait les vivants. Celles que nous portons ne sont que des copies. Chaque jour, l’ordinateur compare entre elles les clés de sept ans. Il connaît tout de tous. Il sait ce que je suis, et aussi ce que je serai. Il trouve parmi les garçons ceux qui sont et qui seront ce qu’il me faut, ce qui me manque, ce dont j’ai besoin et ce que je désire. Et parmi ces garçons il trouve celui pour qui je suis et je serai ce qu’il lui faut, ce qui lui manque, ce dont il a besoin et ce qu’il désire. Alors, il nous désigne l’un à l’autre. « Le garçon et moi, moi et le garçon, nous sommes comme un caillou qui avait été cassé en deux et dispersé parmi tous les cailloux cassés du monde. L’ordinateur a retrouvé les deux moitiés et les rassemble.

(…)

— Superbe ! dit Hoover. Et ça réussit tout le temps ? Votre ordinateur ne se trompe jamais ?

— L’ordinateur ne peut pas se tromper. Parfois un garçon ou une fille change, ou se développe de façon imprévue. Alors les deux morceaux du caillou ne sont plus des moitiés, et ils tombent l’un de l’autre. 

— Ils se séparent ?

— Oui. 

— Et ceux qui restent ensemble sont très heureux ?

— Tout le monde n’est pas capable d’être heureux. Il y a des couples qui, simplement, ne sont pas malheureux. Il y a ceux qui sont heureux et ceux qui sont très heureux. Et il y en a quelques-uns dont la Désignation a été une réussite absolue, et dont l’union semble avoir commencé au commencement de la vie du monde. Pour ceux-là, le mot bonheur ne suffit pas. Ils sont… 

La voix impersonnelle de la Traductrice déclara dans toutes les langues qu’elle connaissait : 

— Il n’y a pas de mot dans votre langue pour traduire le mot qui vient d’être prononcé. »

Pensez-vous qu’il existe des moments comme cela, dans nos vies, des moments pour lesquels le mot « bonheur » ne suffit pas et que le vocabulaire que nous connaissons échoue à désigner ?

Je vous souhaite, une belle fin de semaine, À jeudi prochain !

Anne-Solange

Vous aimez les Pochettes Surprises ? 
Recevez des surprises tous les jeudis par mail

« Pochette Surprise » est une newsletter gratuite, envoyée tous les jeudis. Une fois inscrit.e, vous avez à tout moment la possibilité de vous désabonner  et/ou vous réabonner.

Pour aller plus loin voici les livres et articles dont il est question ici

☞ Dans cette conférence, Andreas Ekström intitulée « The moral bias behind your search results » explique la manière dont deux campagnes de dénigrement sur le moteur de recherche ont été traités par Google, ce qui pose de nombreuses questions sur les informations que nous recevons. Et si vous avez envie d’aller plus loin, je vous invite vivement à écouter la playlist de Ted sur l’influence des des algorithmes, qui balaie bon nombre de notions importantes.

☞ J’ai lu Homo Deus* au moment de sa sortie. J’avais été très séduite par la vision très neuve que l’auteur m’apportait sur pas mal de sujets (en nous expliquant par exemple que nous sommes des algorithmes, que l’idée d’âme est une idiotie, ou bien que la notion d’individu n’a pas lieu d’être…). Le livre propose une vision possible de l’avenir et des grands enjeux de l’humanité à partir de maintenant. C’est une lecture qui m’avait passionnée, secouée, mais aussi je dois l’admettre… beaucoup déprimée.

☞ Si vous avez envie de comprendre un peu mieux le rôle que jouent les algorithmes dans nos quotidiens et surtout les interrogations que cela engendre, c’est sans hésiter ce livre que je vous conseille. Au temps des algorithmes* expose son sujet de manière très pédagogique, avec une grande clarté et surtout sans passion. Les deux auteurs, sont chercheurs à l’INRIA (Institut national de recherche en informatique et automatique) et je ne suis pas seule à penser qu’il se distingue d’autres livres sur le sujet car il a reçu le prix « La science se livre » en 2018.

☞ The Unknown Face  est le nom donné à cette oeuvre qui représente le visage du soldat inconnu, créée à la demande de l’Historiai de la Grande Guerre. Le site Internet qui lui est dédié est passionnant. En particulier le mini-film qui retrace les étapes de création de ce visage. Pour moi c’est l’exemple même d’une oeuvre qui n’aurait pu voir le jour sans le secours des algorithmes.

☞ De très nombreux projets ont été lancés ces dernières années sur le thème de la création algorithmique d’oeuvres que ce soit musicales, plastiques ou littéraires. J’ai sélectionné ceux du groupe de recherche français Flow Machines avec les expériences DeepBach et Daddy’s Car, mais elles sont loin d’être isolées. Il existe par exemple un générateur de Chopin.

☞ Le projet The next Rembrandt  n’est pas non plus un cas unique, mais il m’a paru particulièrement bien documenté. Vous pouvez jeter un oeil au site internet qui lui est dédié. En plus d’être superbe, il a une véritable vocation pédagogique.

☞  Et pour finir, La Nuit des Temps*, ce chef d’oeuvre de la littérature de science fiction. Il me semble que c’est un des romans les plus connus de Barjavel et de ceux qu’on cite en premier parmi ceux qui nous ont marqué. Si vous ne l’avez pas encore lu, je vous le conseille sans hésiter et je sais que, si vous le connaissez déjà, vous aurez certainement envie de le relire, rien qu’à l’évocation du titre :) Sachez que les éditions des Saint Pères qui éditent les manuscrits originaux (c’est-à-dire raturés et annotés) d’oeuvres marquantes viennent justement de faire paraître La nuit des temps.

* Les liens marqués d’une étoile font partie d’un programme d’affiliation.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Retour haut de page