Agents conversationnels: Enjeux d'éthique

Les agents conversationnels (aussi appeles « chatbots ») sont des systemes numeriques capables d’interagir avec leurs utilisateurs en langage naturel, a l’ecrit comme a l’oral. Aujourd’hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectees, voitures, sites internet) : ils apportent des conseils de sante, facilitent le recrutement, gerent des services apres-vente, forment a distance, aident les personnes vulnerables, etc. L'utilisation de ces systemes ne cesse de croitre. Leur performance grandit aussi tres vite : l’utilisation des « transformeurs » — gigantesques reseaux de neurones tres performants — revolutionne le traitement automatique du langage et tout particulierement la conception des agents conversationnels. Les concepteurs de ces systemes envisagent de nouveaux developpements capables de bouleverser certains aspects de notre vie : des « amis virtuels », des « anges gardiens » ou encore des « deadbots » (chatbots entraines a partir des donnees d’une personne defunte). En France comme au niveau europeen, les agents conversationnels, parce qu’ils s’appuient sur des donnees personnelles, commencent a attirer l’attention des autorites, des regulateurs et du public . Au-dela de ces points reglementaires, se posent de nombreuses questions ethiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir a son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d’un etre humain ? Un chatbot doit-il imiter systematiquement l’etre humain ? Pour enrichir sa reflexion et sensibiliser aux questions ethiques, le CNPEN a mis en place un appel a contribution . Il a recu une centaine de reponses individuelles ou collectives. Parmi les differents enjeux d’ethique qu’identifie le comite, les principales tensions concernent le brouillage des frontieres entre une machine et un etre humain, l’imitation du langage et des emotions par les chatbots, ainsi que la capacite des agents conversationnels a manipuler les interlocuteurs humains. L’avis s’adresse aux industriels en proposant de mettre en œuvre dix principes de conception des chatbots. Treize preconisations sont formulees a l’adresse des autorites publiques qui ont la responsabilite d’accroitre l’effort de formation, d’education, mais aussi d’experimentations a l’echelle de la societe. Enfin, l’avis enonce onze questions qui pourraient faire l’objet de nouveaux travaux de recherche. La reflexion sur les enjeux d’ethique des agents conversationnels, relative tant a leurs usages qu’a leur conception, devra etre poursuivie en tenant compte des evolutions culturelles et technologiques.