Les algorithmes des systèmes d’intelligence artificielle travaillent sans se poser de questions, ce qui peut donner lieu à des situations cocasses ou discriminatoires. La nécessité de penser l’éthique avec la technologie devient alors nécessaire.
Perçus comme des boîtes noires sans moral, les algorithmes sont aujourd’hui au cœur des inquiétudes des consommateurs et des citoyens. Les récents déboires de Facebook et de Cambridge Analytica n’ont évidemment pas arrangé les choses.
Quelques chiffres pour bien comprendre cette défiance tout d’abord : 87% des Français se déclarent prudents lorsqu’ils doivent partager des données en ligne soit 12 points de plus que deux années seulement auparavant. Ce chiffre atteint 83% chez les millenials en croissance de 8 points (chiffres BCG/DLA Piper).
Dans tous les pays, la tendance est la même et dans certains, comme l’Italie, les millienials se montrent même plus prudents que leurs aînés ce qui augure une crise de confiance plus grande encore dans les années à venir si rien ne change.
Cette méfiance, est aussi très présente au sein des entreprises où un salarié sur deux en France souligne « les problèmes éthiques » (respect de la vie privée, protection des données etc.) que peut engendrer le déploiement de l’IA dans les années à venir (source BCG/Malakoff Médéric).
Seul le risque de « déshumanisation du travail » – qui est d’ailleurs lié – est perçu comme plus élevé.
Des pubs, des gaffes, des risques
De choses très concrètes ! Le machine learning par exemple engendre des biais qui peuvent dans l’exercice du marketing personnalisé prêter à sourire… ou à pleurer.
C’est notamment cette twittos qui demande à Amazon de ne plus lui envoyer de la publicité pour des lunettes de toilettes. Elle vient d’en acheter et elle n’est pas collectionneuse : « Je ne suis pas droguée aux lunettes de toilettes » écrit-elle.
Le sujet est cocasse dans ce cas mais le même type de sollicitations peut intervenir pour des objets moins futiles comme des urnes funéraires (cas réel bien sûr).
Prenons un autre exemple bien connu des retailers, celui des algorithmes d’optimisation des marges. Si l’unique objectif que l’on fixe à un algorithme est d’accroitre la marge d’un magasin, il fixera des prix élevés dans les banlieues les plus sensibles du monde entier, là où la concurrence est la plus faible et où le réflexe de comparaison des prix est le moins prégnant. Un humain ne prendrait évidemment pas cette décision car au-delà de la performance économique à court terme, l’injustice d’un tel algorithme est flagrante. Et le risque d’image patent…
Bref, l’algorithme est un animal à sang froid. Il exécute ce qu’on lui demande sans sourciller. Avec lui, c’est blanc ou noir. Il ne connait pas les nuances de gris. Il fonce sans conscience et sans jugement et poursuit aveuglément l’objectif pour lequel il a été conçu.
Ses concepteurs ne peuvent évidemment pas tout prévoir, notamment les situations-limites. Il est pourtant crucial de les anticiper autant que possible afin de coder les garde-fous nécessaires et maitriser au mieux les sorties de route.
Les opérationnels ne pourront répondre seuls
La situation a été clairement identifiée par notre gouvernement et il faut s’en féliciter. Le rapport Villani au titre très explicite – Donner un sens à l’intelligence artificielle – consacre sa cinquième partie au sujet de l’éthique.
Cependant, méfions-nous du jacobinisme en la matière ! Faut-il réguler à tout prix avec un « GIEC de l’IA » comme l’appelle de ses vœux notre président de la République ? Faut-il créer un corps d’auditeurs d’algorithmes et de bases de données comme le recommande le rapport ? Faut-il absolument interdire les algorithmes à base d’apprentissage dans le domaine des véhicules autonomes ?
Antoine Petit, PDG du CNRS pointe ce risque lorsqu’il déclare : « Il faut faire attention à ce que la France et l’Europe ne soient pas les champions de l’éthique pendant que les Etats-Unis et l’Asie font du business ». Même si les Français font facilement confiance à la puissance publique, gardons en tête que ce capital confiance est à peine meilleur que celui de l’e-commerce en matière de données (rapport BCG/DLA Piper).
La bataille de l’éthique, est avant tout celle de la confiance des consommateurs. Elle incombe donc aux entreprises, dans le cadre fixé par le régulateur. Pour gagner, chaque entreprise devra discerner ce qui est moralement acceptable : quel niveau de transparence sur l’utilisation des données ? Comment définir le seuil au-delà duquel un message publicitaire ciblé devient intrusif ? Jusqu’où accepter de revendre des données à des partenaires tiers ? Où commence l’excès en matière d’incitation à la consommation ? Quand un schéma de tarification devient-il discriminatoire ?
Notre conviction est que les opérationnels ne pourront répondre seuls à ces questions. Nous allons donc voir apparaître, au niveau des comités exécutifs dans les années qui viennent une nouvelle fonction : celle de chief ethics officers. Gageons que beaucoup seront français, à l’image des data scientists qui portent haut les couleurs de notre pays. Ils devront en effet comprendre les mathématiques et être de bons philosophes. Deux points forts de la formation de notre pays !
Sylvain Duranton
