#
Technologie

Sommes-nous réductibles aux habitudes qu'identifient les algorithmes ?

Publié le
1/10/21
No items found.

A l'occasion du hors-série "Pour une éthique des affects numériques" du magazine du Collège des Bernardins, en lien avec le département de recherche Humanisme numérique, Alberto Romele nous révèle la place prépondérante dans nos vies des algorithmes numériques.

No items found.

Les algorithmes nous facilitent la vie. Ils se glissent dans notre quotidien, prédisent ce que nous allons aimer, nous recommandent ce que nous devons regarder, lire, écouter ou acheter. En bref, ils créent et renforcent nos zones de confort. Faut-il s'émanciper de ces machines qui nous privent d'une part essentielle de notre identité - celle qui fait la part belle à l'événement, à l'étonnement ?

Derrière chaque écran se trouve un logiciel, c'est-à-dire une base de données ordonnée par un algorithme. L'exploitation de ces données permet la production d'une information personnalisée, fondée sur une anticipation du possible et destinée à faciliter nos décisions, à nous placer en permanence dans une zone de confort. « Autrement dit, explique Alberto Romele, chercheur associé à l'université de Tübingen, le numérique à l'état actuel est une machine à habitudes, à habitus. » Qu'est-ce que l'habitus ? Notion popularisée en France par le sociologue Pierre Bourdieu, elle désigne la manière d'être, l'allure générale, la tenue, la disposition d'esprit d'un individu face au monde. Ensemble d'acquis culturels, l'habitus engendre des pratiques ajustées à notre position sociale. C'est ce qui explique que, placés dans des conditions similaires, des individus auront la même vision du monde, la même idée de ce qui se fait et ne se fait pas, les mêmes critères de choix quant à leurs loisirs ou à leurs amis, les mêmes goûts vestimentaires ou esthétiques. Par exemple, c'est à cause d'un certain habitus qu'un adolescent de la banlieue nord parisienne aspirera plus spontanément à devenir joueur de football professionnel que le fils de cadres supérieurs scolarisé dans un lycée du centre de la capitale.

Le numérique nous pose la question de notre identité

Les algorithmes nous catégorisent ainsi en fonction de nos pratiques habituelles. « Ils classent nos comportements présents pour prévoir nos comportements futurs. » Fondée sur le clustering (partitionnement de données), cette méthode consiste à organiser des données brutes en silos homogènes pour proposer automatiquement des contenus et des services personnalisés à l'utilisateur.

Partant, « le numérique nous pose la question de notre identité », affirme Alberto Romele. « Qui suis-je ? », semble nous demander la machine. A cette question, nous répondons spontanément en mettant en avant nos traits de caractère, nos façons d'être. Mais cette affirmation comporte des limites car, à proprement parler, la permanence dans le temps de ce que je suis ne permet pas de répondre à la question « qui suis-je ? », mais plutôt à la question « que suis-je ? ». Pour parer à cette confusion, on peut se rapporter au philosophe Paul Ricœur proposant de distinguer la « mêmeté », qui évoque le caractère immuable d'un sujet, et l'« ipséité », sa capacité d'initiative individuelle. Ces deux notions ne s'opposent pas. Elles se complètent dans une relation dialectique que Ricœur appelle « l'identité narrative ». Tout individu s'approprie ainsi, voire se constitue, dans une narration de soi sans cesse renouvelée. « C'est précisément cette tension permanente entre mêmeté et ipséité qui s'estompe dans nos rapports avec le numérique. En nous enfermant dans nos habitudes - ce que nous sommes -, il nous éloigne de l'autre partie de nous-mêmes - qui nous sommes », explique Alberto Romele. Avant d'ajouter : « Les algorithmes nous personnalisent. Ils ne nous individualisent pas. Ils encouragent et alimentent l'identité-mêmeté mais évacuent l'identité-ipséité. Nous devons donc nous demander comment, dans nos rapports avec le numérique, non seulement prendre conscience de cette distorsion mais aussi empêcher que cette relation constitutive de notre être profond se distende inexorablement. »

Les limites de la technologie

À ce propos, Pierrick Le Masne, senior vice-président d'Accor Hôtel, livre une anecdote éclairante : sa dernière expérience dans l'hôtel américain de Washington ou il se rend régulièrement depuis des années. À l'accueil, l'employé qui Iui demande son nom, peu amène, n'a visiblement pas de temps à perdre. Soudain, son visage s'illumine. Son logiciel de réservation vient de l'avertir de la qualité de l'homme qui se trouve en face de lui, un habitué de l'hôtel. « Ah, monsieur Le Masne, welcome back ! », dit-il alors avec un grand sourire. Peu de temps après, Pierrick Le Masne se rend au restaurant de l'hôtel. Il y retrouve le serveur habituel avec lequel il n'a pas dû échanger plus de vingt mots depuis qu'il fréquente les lieux. Ce dernier le reconnaît instantanément et le reçoit en lui disant : « Hi Mister, as usual ? »

Cette anecdote illustre les limites de la technologie même quand elle a pour but de personnaliser le parcours client. « Je n'ai pas eu de véritable interaction personnelle avec l'employé "augmenté" de l'accueil, résume Pierrick Le Masne. J'en ai eu une avec le serveur du restaurant, lequel s'est souvenu de mes préférences. Même lointaine et strictement professionnelle, notre relation est fondée sur tout ce qui constitue l'humain - le contact, la mémoire, la spontanéité - là où, à l'accueil, l'employé n'a réagi qu'en fonction de sa base de données et de l'algorithme qui la traite. » De fait, ajoute-t-il, « les plateformes demeurent dans un univers algorithmique, de flux, de transactions électroniques. Elles ne rendent pas compte des situations particulières, réellement vécues ».

S'émanciper des machines ?

D'où, pour Pierrick Le Masne, « la nécessité d'assumer une forme de lucidité vis-à-vis du numérique, paré dans l'opinion publique d'une sorte d'aura qui excède largement ses possibilités réelles ». Par exemple, les services technologiques fournis par les agents conversationnels se limitent en réalité à quelques tâches élémentaires comme lire de la musique ou des podcasts, établir des listes de choses à faire, régler des alarmes ou donner la météo et l'état du trafic. L'intelligence artificielle n'excelle que dans des domaines très spécifiques et pour des tâches répétitives et encadrées. Ainsi, le simple bon sens nous enseigne qu'aucune intelligence artificielle ne dépasse les limites de son programme, alors que le cerveau humain est doté de milliards de combinaisons nerveuses le rendant apte à s'adapter, à utiliser son environnement, son expérience et celle des gens qui l'entourent. De fait, les limites cognitives des machines leur interdisent tout raisonnement complexe, en dehors des tâches pour lesquelles elles sont prévues. Elles se contentent de classer des données sans parvenir ni à acquérir une expérience subjective, ni à réellement communiquer avec le monde qui les entoure.

Dès lors, comment s'émanciper de ces machines à habitus? « Il faut d'abord préciser que l'habitude n'est pas une mauvaise chose en soi », rappelle Alberto Romele. Elle peut même avoir une utilité sociale. En effet, « quel serait l'état de la société si, par exemple, nous remettions tous en cause nos rapports avec nos familles ? ». Pour le philosophe Blaise Pascal, la coutume est ainsi « le liant social par excellence » qui, modelant les comportements, les modes et les relations entre les hommes, maintient la stabilité de l'ordre social. Pour autant, nous avons aussi besoin d'imprévus : « Quand nous allons à Bogotá, nous voulons vivre une expérience différente de celle que nous connaissons à Lyon. » Le numérique nous place face à ce dilemme : pour retrouver le fil du récit narratif entre notre identité-mêmeté et notre identité-ipséité, il nous faut maintenir dans nos vies une « forme d'événement, d'étonnement » qui nous sorte de nos zones de confort où cherchent à nous enfermer les machines.


No items found.