Réanimation et philosophie : une double expertise

‍

Cyril Goulenok, vous êtes à la fois réanimateur et philosophe. Comment est-ce que ces deux approches ont-elles enrichi votre recherche ?

Ces deux activités sont venues l’une après l’autre. Je suis réanimateur depuis un peu plus de vingt ans à l’hôpital privé Jacques Cartier à Massy, et au cours de mon travail je me suis évidemment intéressé à l’éthique. De par la pratique même de la réanimation, avec des patients dans des états très précaires et malheureusement un risque de mortalité, les questions d’ordre éthique sont au cœur du métier. Cette réflexion a progressé jusqu’à une nécessité d’aller plus loin dans mes recherches et donc de faire de la philosophie. Après deux masters en philosophie, j’avais besoin de rattacher cette réflexion à ma pratique médicale. C’est ainsi que j’ai écrit une thèse sur l’impact de l’intelligence artificielle dans le cadre précis de la réanimation, même si cette recherche peut s’étendre à toutes les professions de santé, voire à d’autres domaines. Ces deux approches, pratique et philosophique, me confèrent une certaine légitimité pour comprendre et explorer les impacts de la technologie sur ma pratique, une position privilégiée pour comprendre comment cela va transformer notre métier ainsi que le paysage hospitalier. En m’appuyant sur le corpus philosophique, j’ai pu développer une approche que je ne qualifierai ni de technophile, ni de technophobe. Pour cela, j’ai développé le concept de « technosophie », c’est-à-dire une approche de la technologie marquée par la sagesse et la réflexion.

‍

Aux origines de la technocritique

‍

 Notre rapport à ces technologies est un bon reflet de l’évolution de nos sociétés.

Ces différentes approches de la technologie rejoignent le courant de la technocritique. Comment est-ce que cette réflexion vis-à-vis de la technologie est-elle née et que permet-elle ?

Ce qu’il faut comprendre, c’est que la critique de la technologie émerge en même temps que la technologie elle-même. Sans revenir sur les origines très lointaines de la technique, on peut remonter aux débuts de l’industrie, notamment aux premiers métiers à tisser mécaniques, dès la fin du XVIII^e siècle. La première lutte contre ces nouvelles technologies s’appelle le luddisme, qui prend la forme d’une opposition frontale par la destruction des machines. Une pensée va se développer petit à petit, en particulier dans les années 1950 avec des philosophes qui réfléchissent à notre rapport à ces machines, aux conséquences qu’elles ont sur nos métiers, sur notre rapport à la technique, mais aussi à la Terre. Un certain nombre de grandes figures philosophiques émergent dans ce contexte, comme Jacques Ellul, Gilbert Simondon, Hans Jonas, Günther Anders, Ivan Illich ou Bernard Stiegler. C’est une philosophie qui n’intéresse pas beaucoup la société mais qui est pourtant primordiale alors que les technologies ne cessent d’émerger et de croître. De plus, notre rapport à ces technologies est un bon reflet de l’évolution de nos sociétés. Pour prendre un exemple très simple, Les Temps Modernes de Charlie Chaplin est un reflet de la critique des années 1930, celle de l’humain qui devait être maître de l’outil avant de s’y adapter et d’en devenir l’esclave. De même que les réflexions de Platon ou d’Aristote restent étonnamment actuelles, les grands penseurs technocritiques que j’ai évoqués demeurent pertinents. Même sans avoir connu une intelligence artificielle comparable à celle d’aujourd’hui, leurs analyses éclairent encore nos interrogations.

‍

Quand la technocritique rencontre la santé

‍

 L’argument initial c’est de dire qu’on ne peut pas arrêter la recherche parce qu’elle va pouvoir s’appliquer dans le domaine médical et sauver des vies.

Qu’en est-il de la technocritique lorsque les technologies sont appliquées au domaine de la santé, comme c’est le cas dans votre recherche ?

Ce qui m’a rapidement interrogé, c’est que la technocritique aborde très peu le sujet de la santé. C’est un sujet pratiquement absent d’un ouvrage de référence, Technocritiques de l’historien François Jarrige, qui ne traite presque pas de santé. J’ai donc pris contact avec l’auteur, qui a reconnu l’existence d’un angle mort pour les philosophes. Une des explications possibles, c’est que les philosophes ne se sentiraient pas légitimes de critiquer le domaine de la santé. L’une des exceptions à cette règle c’est Ivan Illich dans son ouvrage Némésis médicale, l’expropriation de la santé. C’est à ce titre très intéressant de voir les controverses que la parution du livre a suscité au sein de la communauté scientifique et médicale. Ce qui m’intéresse, c’est de savoir si l’intelligence artificielle bénéficiera de la même immunité naturelle face aux critiques. Je pense que oui, ce sera difficile de remettre en question cette innovation. La santé occupe une place particulière en ce qui concerne les avancées technologiques car elle joue le rôle de propédeutique. On prend les bénéfices qu’apporte une nouvelle technologie dans le domaine médical pour justifier son développement, alors même qu’elle se développera en parallèle dans d’autres secteurs plus contestables, comme ceux de l’armement ou de la justice. L’argument initial c’est de dire qu’on ne peut pas arrêter la recherche parce qu’elle va pouvoir s’appliquer dans le domaine médical et sauver des vies. Ma position de médecin me donne donc une perspective plus confortable pour réfléchir et poser des limites. Le métier de réanimateur est particulièrement confronté à cette question des limites, qu’on essaie de repousser toujours plus loin. Il y a cinquante ans, nous n’avions pas les possibilités d’aujourd’hui, et malheureusement les patients mourraient davantage. On repousse ces limites, mais la question se pose de jusqu’où nous souhaitons aller. Accepter les limites, cela doit aussi faire partie de notre métier. C’est notre quotidien de déterminer jusqu’où aller en termes d’engagement thérapeutique dans des situations parfois très difficiles. La santé est donc à la fois un environnement privilégié pour le développement des technologies, mais aussi un environnement protégé des remises en cause. C’est important, non pas de critiquer cela, mais de réfléchir à pourquoi c’est ainsi et ce que cela reflète de notre société.

‍

Lire un article sur : La médecine confrontée aux limites, questionnements éthiques et sagesse pratique.

Dépasser notre « dette envers la médecine »

‍

Au niveau individuel, il semble difficile voire risqué de freiner le développement d’une technologie dont on pourrait bénéficier dans le futur. Comment sortir de ce raisonnement très personnel pour penser à un niveau sociétal et éthique ?

C’est la raison pour laquelle les militants pour la décroissance les plus véhéments remettent rarement la croissance dans le domaine médical en question. Par nos histoires personnelles, nous avons tous une « dette envers la médecine » car elle nous a sauvés ou a sauvé un proche, ce qui rend difficile d’en critiquer le développement. Une voie de sortie est celle de la philosophie. La philosophie nous permet de prendre de la hauteur et d’avoir une réflexion bien plus vaste que son individualité. On peut également s’en sortir par la compréhension de notre place au sein de la société. C’est ainsi intéressant de regarder notre capacité à mettre de côté notre propre perspective dès lors qu’on réfléchit à l’échelle de la planète, dans une perspective notamment écologiste. Pourquoi avons-nous donc une cécité en ce qui concerne notre santé, une incapacité à se projeter plus loin que nous-même ? En tant que médecin, je peux me permettre d’inciter les gens à cette réflexion. Mon objectif n’est surtout pas de dire ce qu’il faut faire mais d’encourager des démarches de réflexion sur des échelles plus grandes. Cela se fait de plus en plus dans le milieu médical, à travers des réflexions sur l’empreinte carbone des activités en milieux hospitaliers, sur les conséquences que notre travail a sur la planète, et je trouve cela tout à fait sain. Pour en revenir à mon métier et à la question de l’engagement thérapeutique, c’est de savoir ce qui représente une obstination déraisonnable, ce qu’on peut attendre des technologies et ce qui nous importe de conserver en tant qu’humain.

‍

Lire un article sur : Discours du pape François au G7 : gardons le contrôle sur l'IA !

‍

L'IA va-t-elle réinventer la médecine ?

‍

Pour prendre l’exemple plus précis de l’intelligence artificielle, comment est-ce que cette technologie vient bousculer le monde médical ?

Ce que représente l’intelligence artificielle ne fait pas consensus en philosophie, mais il s’agit pour moi d’une révolution. Ce n’est pas une mutation, ni une transformation, ni une métamorphose. Les changements à venir sont majeurs tant la transformation est protéiforme, elle touche un grand nombre de secteurs, qu’il s’agisse de prévention, de diagnostic, de santé publique. Tous ces secteurs seront touchés de façon positive. J’insiste à ce sujet, car ce n’est pas parce que l’on réfléchit sur une technique et que l’on développe une technocritique que l’on est contre cette technologie. Je ne suis ni technophobe ni technolâtre. Mais ce n’est pas parce qu’une technique est performante, qu’elle amène une transformation positive qu’il faut s’abstenir de réfléchir à son sujet. Ce qui est certain, c’est que dans les années à venir l’intelligence artificielle va considérablement changer notre activité et la prise en charge des patients. Il faut accepter cette transformation radicale sans forcément la freiner, mais tout en développant une réflexion sur le métier de soignant. Qu’allons-nous garder en tant qu’humains comme pouvoir décisionnel unique ? Qu'allons-nous partager avec les nouvelles technologies ? Que pourrons nous entièrement transférer à des technologies comme l’intelligence artificielle ? C’est une réflexion qu’il faut commencer dès maintenant.

‍

Lire un article sur : Les robots sont-ils les chirurgiens de demain ?

‍

Peut-on freiner le progrès ?

‍

À chaque fois que nous essayons de fixer des limites émerge une bonne raison de les repousser.

Vous dites que cette révolution va avoir lieu quoi qu’il arrive, ce qui fait écho à la célèbre formule du physicien Dennis Gabor qui affirme que tout ce qui est techniquement réalisable sera réalisé, quoi qu’il en coûte moralement. Peut-on espérer pouvoir mettre des limites au développement de l’intelligence artificielle ou sommes-nous condamnés à observer sans pouvoir intervenir ?

Dans toute réflexion en technocritique on rencontre une difficulté : celle de l’expression d’une certaine impuissance. Quand on regarde du côté des philosophes technocritiques, ce qu’ils questionnaient a fini par avoir lieu. Günther Anders était très inquiet du développement de l’arme nucléaire, qui est aujourd’hui une réalité. Pour lui, le tournant que représente la possibilité de ce qu’il appelle un « globocide », la possibilité de détruire à une échelle planétaire, était un point de non-retour. C’est bien sûr un peu désespérant. Pour revenir à cette formule de Dennis Gabor, je dirais que cela rejoint une injonction à ne surtout pas arrêter le progrès. Alors que se développaient l’électricité et les moyens de locomotion, il y avait une véritable injonction à ne surtout pas s’arrêter parce que s’arrêter c’est revenir en arrière, revenir à l’éclairage avec la bougie et à des modes de vies bien moins confortables. Aujourd’hui, nous sommes passés de cette injonction à quelque chose qui relève davantage de la constatation. On sait que l’on ne peut pas arrêter le progrès parce que si nous le faisons d’autres prendront le train en marche et nous resterons sur le quai. À chaque fois que nous essayons de fixer des limites émerge une bonne raison de les repousser. Dans une perspective mondialisée, si on ne le fait pas en France ou en Europe, ce sera fait aux États-Unis, en Chine, et nous prendrons du retard sur les développements technologiques. Cette perspective se justifie et se comprend, mais ce n’est pas parce qu’on ne peut pas arrêter ces innovations qu’on ne peut pas réfléchir dessus, pour en rendre l’utilisation plus sage et pour conserver une place respectable pour l’humain.

Le philosophe est bien entendu quelqu’un qui amène une réflexion, mais qui doit également s’intégrer dans la société pour que ses propositions s’appuient sur la légitimité de son activité.

Nous vivons dans une culture fondée sur le progrès et la performance, est-ce que permettre un développement sain des nouvelles technologies doit passer par un changement de culture ? Est-ce que ça ne serait pas le rôle des philosophes ?

C’est en quelque sorte ce que j’essaie de faire à mon échelle, mais je suis persuadé que développer une philosophie est insuffisant sans mise en pratique. Ma position de clinicien me permet d’être au chevet des patients, d’utiliser ces nouvelles technologies, d’accompagner mes équipes avec ces technologies pour intégrer un système d’éthique by design, c’est-à-dire pensé pour être éthique dans son fonctionnement. Cette mise en pratique me permet de publier des papiers dans des revues qui partagent cette expérience à l’international et d’en informer la communauté scientifique. Donc le philosophe est bien entendu quelqu’un qui amène une réflexion, mais qui doit également s’intégrer dans la société pour que ses propositions s’appuient sur la légitimité de son activité.

‍

Voir aussi : La science va-t-elle nous sauver ? Avec Antoine Buéno et Olivier Hamant

Quand le progrès devient une croyance

‍

Pour que notre utilisation de ces technologies ne soit pas marquée par une perspective idéologique, il est essentiel de préserver notre capacité de réflexion, notre esprit critique et notre libre-arbitre afin de rester davantage qu’une simple courroie de transmission entre le patient et la technologie.

Qu’en est-il du public ? Vous avez évoqué le fait que la réflexion technocritique n’intéresse pas beaucoup la société, on constate également que les sujets de bioéthique ne génèrent aujourd’hui pas beaucoup d’intérêt, comment expliquez-vous cela ?

Il y a à la fois un flux très important d’information, un grand nombre de sujets qui nous sont présentés et la complexité inhérente aux questions d’ordre bioéthique qui expliquent ce phénomène. Il est aujourd’hui difficile de penser et de développer une réflexion, d’autant plus que les technologies se développent à un rythme extrêmement rapide et qu’elles repoussent des limites que nous ne maîtrisons pas. Nous sommes en train de réfléchir aux conséquences de l’intelligence artificielle alors que nous l’utilisons déjà dans nos pratiques médicales. De plus, il y a cet aspect culturel que nous évoquions plus tôt, puisque dans notre société, prendre le temps de la réflexion ne fait pas partie de nos impératifs. Il est particulièrement intéressant de comparer cette extrême vitesse de la technologie à la continuité et la stabilité de la religion. Ce qui m’intéresse dans cette comparaison, c’est la question de la croyance. Qu’est-ce que croire ? Croire, c’est tenir pour vrai sans pouvoir démontrer avec certitude ce à quoi on donne son assentiment. Justement, l’utilisation de l’intelligence artificielle en médecine demande de croire : elle nous donne un résultat sans qu’on puisse comprendre le mécanisme complexe qui l’a produit. Il y a ces phénomènes de boîte noire mais également une temporalité qui nous dépasse. Quand je suis au chevet d’un malade à trois heures du matin, peut-être que pour répondre à certaines questions il me faudra une trentaine de minutes, alors que l’intelligence artificielle me donnera le résultat immédiatement. Je suis débordé par cette temporalité et je n’ai pas d’explications sur ce résultat, donc je suis obligé de croire. Ce n’est pas pour autant qu’il s’agit d’une forme de religion, j’ai plutôt rapproché cette croyance de l’idéologie dans mes travaux. L’idéologie, telle que l’a définie la philosophe Chantal Delsol, s’impose à moi sans que je puisse la critiquer. Nous pouvons malgré tout utiliser les technologies avec l’objectif noble de soigner au mieux les malades. Pour que notre utilisation de ces technologies ne soit pas marquée par une perspective idéologique, il est essentiel de préserver notre capacité de réflexion, notre esprit critique et notre libre-arbitre afin de rester davantage qu’une simple courroie de transmission entre le patient et la technologie.

‍

Découvrir les travaux du séminaire Médecine et idéologie.

Découvrir les travaux du Pôle de recherche du Collège des Bernardins.