Éthique et agents autonomes

A l'heure actuelle, les machines et les logiciels (agents) deviennent de plus en plus autonomes et agissent de plus en plus sans etre controles par des utilisateurs ou des operateurs humains. C'est pourquoi, la question de doter ces agents autonomes de comportements ethiques se pose. L'objectif du projet ETHICAA est de definir ce que devrait etre un systeme compose d'un ou plusieurs agents et capable de gerer des conflits ethiques, aussi bien au niveau individuel qu'au niveau collectif. Enjeux et objectifs. La plupart des contributions a ce jour ont propose des recommandations ou l'implantation de principes ethiques directement dans les agents. Cependant il y a toujours des verrous scientifiques majeurs. En premier lieu, les theories ethiques sont difficiles a mettre en oeuvre sous forme de principes ethiques operationnels. En second lieu, ces principes ethiques operationnels sont eux-meme difficiles a implanter en raison de limitations d'evaluation de situation automatisee. En effet, les regles generales ne parviennent pas a evaluer une situation et une evaluation contextuelle doit etre faite pour chaque situation particuliere. En troisieme lieu, d'un point de vue philosophique, il existe de nombreux principes ethiques et aucun d'eux n'est meilleur que les autres, rendant ainsi difficile de choisir celui a mettre en oeuvre. Enfin, les systemes informatises sont de plus en plus ouverts et decentralises, c'est-a-dire impliquant des agents artificiels autonomes en interaction avec d'autres agents, des operateurs ou des utilisateurs humains. Dans ces circonstances, la gestion des conflits ethiques entre les differents agents devient une question cruciale. C'est pourquoi des methodes originales sont necessaires pour repondre a la prise de decision ethique contextuelle en situation d'ouverture et de decentralisation. Methodes et approches. Les conflits ethiques sont caracterises par le fait qu'il n'existe pas de " bonne " maniere de les resoudre et les decision des agents doivent etre fondees sur l'evaluation des arguments qui les soutiennent et des consequences qu'elles produisent. Ainsi, trois elements servent a definir un cadre de gestion de conflits ethiques dans les systemes d'agents : (1) la definition d'un cadre de raisonnement ethique permettant la representation de plusieurs principes ethiques et de plusieurs modeles d'evaluation ; (2) la Definition de methodes de detection des conflits ethiques prenant en compte les situations ou les agents raisonnent individuellement ou collectivement ; (3) la definition de plusieurs modeles de prise de decision ethique combiner intelligemment differents principes ethiques dans un cadre de prise de decision ethique multi-point-de-vue. De plus, comme l'ethique est une notion individuelle construite sur une culture, un contexte et des experiences personnelles, la prise de decision ethique ne peut faire sens qu'au travers des applications particulieres. Pour cette raison, le projet ETHICAA propose d'instancier le cadre ainsi obtenu sur deux domaines d'application : la robotique et la gestion de la vie privee. Ces deux domaines ont ete choisis pour les questions de societe qu'ils soulevent en termes de confiance, d'acceptation et ethique. Dans le domaine de la robotique, le cadre ETHICAA sera utilise pour gerer les conflits ethiques qui peuvent survenir lors de la cooperation entre un agent artificiel et un operateur humain dans le contexte du controle conjoint d'un UAV (Unmanned Air Vehicle). Dans le domaine de gestion de la vie privee, les conflits ethiques peuvent survenir entre plusieurs agents artificiels et plusieurs utilisateurs humains au sein d'un reseau social ou des agents ethiques artificiels controlent et gerent les politiques de vie privees de leurs utilisateurs humains.