Humanisme numérique

Vers une éthique des chatbots et des robots affectifs


Dans le cadre de la recherche sur le thème de Humanisme numérique du Collège des Bernardins, une soirée pour débattre des nouveaux problèmes éthiques que posent les agents et les robots conversationnels imitant les capacités affectives.

Les agents et les robots conversationnels se rapprochent de plus en plus du comportement des humains notamment dans les interactions entre la parole et les affects. Cette évolution entraîne le risque que les utilisateurs leur prêtent des capacités humaines dont ils sont dépourvus comme la conscience ou les émotions. Ceci est particulièrement vrai pour des utilisateurs méconnaissant ces objets ou fragiles comme des enfants ou des personnes âgées, pour lesquels le risque de "Nudges*" est important. Dans ces systèmes robotisés, intelligents ou autonomes on peut en effet intégrer des fonctions suggestives cachées ou manipulatrices conçues pour influencer le comportement ou les émotions d'un utilisateur.

Il devient une priorité de notre société de concevoir des chabots et robots avec des valeurs et des normes éthiques.

*Un nudge est une incitation douce ou coup de pouce donné à un individu ou consommateur pour modifier son comportement.

Revivez cette soirée en images et en tweets :

Avec :
Laurence Devillers
Professeur en Intelligence Artificielle, Université Paris-Sorbonne, chercheuse à LIMSI-CNRS, membre de la CERNA/Allistene
Claude Kirchner
Directeur de recherche émérite Inria et président du Coerle
Christelle Launois
Responsable du Plan Stratégique SI des Réseaux France, Société Générale

Avec le soutien de :