Vous êtes ici
L’optimisation face aux considérations éthiques
Ce qu’on appelle « optimisation » est un outil mathématique d’aide à la décision. L’optimisation est ainsi au cœur des algorithmes qui recommandent des décisions de façon plus ou moins automatique – par exemple, quand on demande à son GPS : quel est le meilleur chemin ? Si la question peut sembler simple, la réponse ne l’est pas du tout. Elle dépend de ce que cherche la personne qui pose la question, mais aussi de nombreux critères plus ou moins apparents.
« Chercher le “meilleur chemin” avec votre GPS sous-entend de choisir entre le plus rapide, le plus court, le moins cher, etc. C’est pareil pour décrire n’importe quel problème avec des approches mathématiques : il faut choisir la ou les dimensions à mesurer et comparer pour élire une solution préférable, explique Odile Bellenguez, professeure à l’IMT Atlantique et membre du Laboratoire des sciences du numérique à Nantes1. Développer des outils d’optimisation, c’est automatiser les recommandations qui seront produites par la suite dans bien des situations différentes. Il faut donc prêter attention à la façon dont ces recommandations seront reçues et, par conséquent, former et informer sur leurs limites, et permettre à la personne qui les reçoit de questionner leur pertinence et leur sens dans son contexte. »
L'enjeu crucial de la question
Optimiser dépend du contexte. La dimension éthique – à savoir, se demander si cette solution est bien la meilleure pour tout le monde – est donc centrale. « Chercher le “meilleur chemin” sous-entend de choisir ce que nous considérons comme bien-fondé et juste, pour nous mais aussi pour tous, et dans le temps long, précise Odile Bellenguez. Par exemple, l’algorithme peut m’interdire de rouler près des écoles ou des hôpitaux, même si cela me ferait gagner du temps, au nom de valeurs supérieures, de principes éthiques. »
Ainsi, fournir des modèles, des méthodes, des outils pour améliorer la prise de décision a des impacts qui peuvent aller bien au-delà du problème posé. Et peuvent impliquer d’autres parties prenantes ou soulever des problématiques ignorées avant leur mise en application. Cette recherche dépend donc de manière cruciale de la façon de formuler la question. Mais, même lorsque les enjeux d’une prise de décision semblent clairement identifiés, des surprises peuvent émerger.
« Un exemple connu d’optimisation aux conséquences moralement dommageables est celui d’un vendeur d’agrafeuses à qui l’on reprochait d’avoir fixé des prix de vente bien plus élevés dans des quartiers défavorisés que dans des zones plus aisées. L’entreprise, ayant confié à un algorithme la fixation des prix, fut la première surprise de ce résultat. Il s’est avéré que ce tarif était corrélé aux produits concurrents présents dans les mêmes boutiques. Cette concurrence étant inexistante dans des quartiers moins aisés, mécaniquement, l’algorithme fixait le prix maximal, explique Alexis Tsoukias, directeur de recherche au CNRS au Laboratoire d’analyse et modélisation de systèmes pour l’aide à la décision2, qui a longtemps travaillé sur l’aide à la décision dans le domaine public. On est là, typiquement, devant un cas de biais involontaire. L’algorithme répond à des consignes qui n’ont pas prévu des conséquences inattendues et éthiquement douteuses. »
« Des effets souhaitables et délétères » en même temps
On arrive ainsi à un paradoxe. Certains cas d’optimisation aboutissent à « des effets souhaitables et délétères dans le même mouvement. Par exemple, optimiser l’organisation du travail peut avoir du sens pour soulager les équipes des tâches inutiles ou chronophages, mais faire également disparaître des temps qui servaient de respiration, de coordination et de partage de connaissances entre professionnels », observe Odile Bellenguez.
D’autres conséquences involontaires surgissent lorsque l’optimisation est utilisée hors de son contexte d’origine. Ainsi, transposer à des déplacements individuels des trajets optimisés pour le transport de marchandises conduit à l’engorgement de certaines villes.
« La notion d’éthique dépend aussi de l’appréciation du contexte et des attentes, une subtilité qu’aucun algorithme ne peut pleinement saisir, souligne Odile Bellenguez. Ce qui relève de l’éthique est difficile à formaliser et à répercuter sur le modèle de décision. »
Même une définition juridique de l’éthique diffère selon les pays : la notion de discrimination de minorités peut se situer au niveau d’une communauté, comme aux États-Unis, mais pas en France.
Optimiser : une question politique
« Il faut prendre conscience que, dans la majorité des cas, le problème n’est pas seulement technique : il est purement politique, affirme Alexis Tsoukias. Aucun outil n’est neutre. Imaginons une tâche consistant à répartir les nouveaux étudiants en fonction de leur filière universitaire de préférence et du nombre de places dont dispose chacune de ces filières. Privilégier tel ou tel critère de sélection des étudiants dans le calcul du résultat produit un biais qu’on peut qualifier de politique. Cette décision ne dépend pas de la machine, mais bien de celui qui la programme. »
« La contribution algorithmique reste assujettie à ce que collectivement, politiquement, nous choisissons d’en faire, confirme Odile Bellenguez. Par exemple, la plateforme nationale française d’admission en première année des formations de l’enseignement supérieur, Parcoursup, a été paramétrée pour maintenir un certain taux de boursiers dans les formations, ce qui est souvent bien perçu, mais aussi sur d’autres aspects qui ne sont pas unanimement acceptés – par filière ou localisation, par exemple. Les résultats ne sont ainsi pas seulement critiqués pour leur composante algorithmique, mais bien pour ce qui est véhiculé par l’algorithme. Or cela n’est pas dépendant des propriétés mathématiques de l’outil, mais de ce qu’on y a injecté. »
L’optimisation éthique a un coût
Il existe aussi des cas particuliers ou des circonstances exceptionnelles où l’outil conçu pour automatiser les recommandations ne peut pas résoudre le problème. Des abus et des erreurs peuvent se produire dans des situations limites, et certains choix de modélisation ne sont pas contrôlables… à moins de choisir de consacrer du temps et de l’argent aux cas exceptionnels. Ce qui peut réduire l’optimisation de l’ensemble, mais lui faire gagner en éthique. Imaginons, par exemple, une administration optimisée dans le traitement des dossiers des salariés en CDI pour gagner en temps et en coûts, mais qui va engendrer un usage problématique pour tous les usagers en situation précaire.
Optimiser un processus pour un acteur se fait parfois au détriment d’autres, comme la nature. La société doit arbitrer entre plusieurs enjeux majeurs relevant de l’environnement, de la sobriété ou de la justice sociale, parfois complexes à modéliser. Par exemple, le prix du transport aérien a souvent été optimisé dans l’idée de minimiser le tarif offert au consommateur, mais cela a eu pour conséquence un effet rebond : la modification du comportement des voyageurs, qui ont eu de plus en plus recours au transport aérien, au détriment d’autres modes de déplacement écologiquement moins destructeurs. L’algorithme n’avait pas été conçu pour se poser cette question.
Les problèmes de décision sont ainsi construits, et non simplement identifiés. Il faut savoir ce que l’on veut et, peut-être encore plus, ce que l’on souhaite éviter. ♦
Consultez aussi
Des réseaux intelligents pour mieux distribuer les énergies renouvelables
Algorithmes : l'injustice artificielle ?
Jean-Bernard Lasserre à la quête de l’optimum
Éthique et marchés : compatibles ou irréconciliables ?
Voir aussi
Auteur
Lydia Ben Ytzhak est journaliste scientifique indépendante. Elle travaille notamment pour la radio France Culture, pour laquelle elle réalise des documentaires, des chroniques scientifiques ainsi que des séries d’entretiens.