Intelligence artificielle et éthique : les questions à se poser avant d'adopter l'IA

Une PME de dix-huit personnes, un outil de tri de candidatures acheté sur catalogue, et une décision de recrutement qui part en vrille parce que le logiciel a écarté toutes les femmes de plus de quarante ans. Je vous raconte ça parce que c'est arrivé à un client, et parce que c'est le genre de scénario qui vous tombe dessus bien avant les grands débats sur la conscience des machines. L'intelligence artificielle et l'éthique, ce n'est pas un chapitre de philosophie. C'est une série de questions très concrètes qu'il vaut mieux se poser avant de signer le bon de commande.

Pourquoi l'éthique de l'IA n'est pas un sujet de philosophe

On me pose souvent la question comme si elle demandait une réponse morale générale. En réalité, elle se joue sur des décisions précises, prises par des gens qui n'ont pas forcément le temps d'y penser. Un modèle de langage qui rédige des réponses clients, un algorithme qui note des dossiers de prêt, un système de maintenance prédictive qui décide quand on remplace une pièce : chacun de ces outils tranche, ou aide à trancher, des situations qui ont des conséquences réelles sur des personnes réelles.

Le point de bascule, je l'ai compris en regardant un ancien projet. Nous avions mis en place un score interne pour prioriser les relances commerciales. Six mois plus tard, on s'est rendu compte que le score pénalisait systématiquement les clients d'une certaine région, parce que nos données historiques reflétaient une période où cette région était mal couverte. Le modèle n'avait rien inventé. Il avait juste appris à reproduire une inégalité qu'on avait nous-mêmes créée sans le voir.

Les biais, la question qui revient toujours

C'est le thème le plus rabâché, et pourtant le plus mal traité. Un biais n'est pas un bug qu'on corrige une fois pour toutes. C'est le reflet d'un déséquilibre dans les données ou dans les critères choisis. Vous pouvez avoir un jeu de données parfaitement propre et un biais parfaitement réel, simplement parce que la variable que vous avez retenue comme « pertinente » porte une injustice en elle.

Exemple bête : si vous entraînez un outil de présélection sur les recrutements passés d'une entreprise qui a historiquement promu des profils très similaires, l'outil apprendra à recommander... des profils très similaires. Et là, surprise : personne n'a écrit une ligne de code discriminatoire. Le résultat l'est quand même.

Un cadre qui existe et qu'on ignore

Beaucoup d'organisations découvrent, souvent trop tard, qu'il existe déjà des principes directeurs. La Recommandation de l'UNESCO sur l'éthique de l'intelligence artificielle, adoptée par un grand nombre d'États, pose quelques repères : proportionnalité, équité, transparence, supervision humaine, responsabilité. Ce n'est pas une loi contraignante, mais c'est une grille de lecture utile quand on doit argumenter en interne.

À l'échelle européenne, le règlement sur l'IA classe les usages par niveau de risque et impose des obligations plus lourdes aux systèmes dits « à haut risque » — recrutement, éducation, services essentiels, justice. Vous n'avez pas besoin d'en connaître chaque article. Vous avez besoin de savoir si votre outil tombe dans cette catégorie. C'est souvent la première question à trancher, et elle change tout le reste.

Les quatre questions à se poser avant tout

Voici la grille que j'utilise maintenant systématiquement, et que j'aurais aimé avoir il y a quelques années. Elle tient en quatre questions, et chacune appelle une réponse écrite, pas une intention vague.

Qui décide, vraiment ?

Dès qu'un système automatise une recommandation, il faut désigner nommément la personne qui reste responsable de la décision finale. Pas un service, pas « l'équipe ». Un nom. C'est la seule manière de savoir qui répond quand ça tourne mal.

Avec quelles données, et pour quoi ?

La seconde question est double : sur quoi le modèle a-t-il été entraîné, et à quelle fin utilisez-vous le résultat aujourd'hui ? Un jeu de données collecté pour un usage peut devenir problématique réutilisé pour un autre. Beaucoup de dérives naissent de ce glissement silencieux.

Quel recours pour la personne concernée ?

Si une décision vous concerne et qu'une machine y a contribué, vous avez le droit de savoir et de contester. Ce principe paraît évident ; il est rarement implémenté. Combien de fois avez-vous vu un formulaire expliquer « votre dossier a été refusé suite à une analyse automatisée, voici comment demander une relecture humaine » ? Presque jamais.

Quel contrôle après la mise en service ?

Un modèle dérive. Les données évoluent, les usages aussi. Ce qui fonctionnait au lancement peut produire des résultats aberrants dix-huit mois plus tard. Sans revue périodique, vous ne le verrez pas.

Question	Réponse faible	Réponse solide
Qui décide ?	« Le service concerné »	Un responsable nommé, avec pouvoir de refuser la recommandation
Quelles données ?	« Les données de l'entreprise »	Liste documentée, finalité précise, date de constitution
Quel recours ?	« On verra au cas par cas »	Procédure écrite, canal de contestation connu
Quel contrôle ?	« On surveille »	Audit daté, indicateurs suivis, seuils d'alerte

Les dilemmes concrets qu'on rencontre vraiment

Les débats publics aiment les cas extrêmes : voiture autonome qui doit choisir entre deux piétons, juge robot, arme létale. Dans la vraie vie, les dilemmes éthiques sont plus ternes, plus fréquents, et bien plus difficiles à trancher parce qu'ils opposent souvent deux biens légitimes.

L'efficacité contre l'égalité de traitement

Un modèle bien entraîné peut améliorer sensiblement la performance d'un processus. J'ai vu un outil de scoring réduire de moitié le temps de traitement d'un dossier de crédit. Le problème : il pénalisait légèrement les primo-demandeurs, une catégorie qu'il connaissait mal faute d'historique. Faut-il garder le gain d'efficacité, ou corriger le modèle au prix d'un peu moins de performance ? Il n'y a pas de bonne réponse universelle. Il y a une décision, assumée, documentée, et révisable.

La transparence contre la sécurité

Autre dilemme : plus vous expliquez comment fonctionne votre système, plus vous le rendez attaquable. Un modèle entièrement transparent est aussi un modèle manipulable. La réponse habituelle consiste à publier des explications de haut niveau et à réserver les détails techniques à un audit indépendant. Ça fonctionne, à condition que l'audit existe vraiment et ne soit pas confié à la même équipe qui a conçu l'outil.

L'automatisation contre l'emploi

Ici, je vais être direct : la question n'est pas « l'IA va-t-elle supprimer des emplois », mais « quels emplois, et avec quel accompagnement ». Sur les projets que j'ai suivis, l'effet observable n'était pas la suppression nette de postes, mais la transformation brutale de certaines tâches. Une équipe de cinq personnes s'est retrouvée à faire un travail différent, sans formation, en trois mois. La charge mentale a explosé. Personne n'avait prévu ça dans le plan de déploiement.

Faut-il être contre l'intelligence artificielle ?

Non, et cette posture me paraît intenable. Refuser l'outil ne supprime pas ses usages : il les déplace chez des concurrents, parfois moins scrupuleux. Le vrai levier n'est pas le refus, c'est la sélection. Choisir quels usages on autorise, lesquels on encadre lourdement, et lesquels on s'interdit carrément.

Ce qu'il vaut mieux ne pas déléguer

Dans mon expérience, trois catégories de décisions gagnent à rester humaines :

• Les décisions qui engagent une personne sur le long terme (embauche, licenciement, sanction).
• Les décisions à fort impact irréversible (accès à un soin, à un crédit vital).
• Tout ce qui touche à la dignité immédiate : modération de contenu sensible, évaluation d'un comportement humain complexe.

Ça ne signifie pas exclure l'IA de ces domaines. Ça signifie garder un humain dans la boucle, avec un vrai pouvoir de dire non — pas un tampon qui valide 99 % des recommandations par fatigue.

Le vrai enjeu : la gouvernance, pas la technologie

Franchement, la plupart des défaillances éthiques que j'ai observées ne venaient pas d'un modèle trop puissant. Elles venaient d'une gouvernance absente : personne ne savait qui validait, qui surveillait, ni ce qu'on faisait en cas de problème. Une charte éthique affichée au mur ne règle rien si elle ne s'accompagne pas de rôles, de procédures et de traces.

Le contre-exemple que je garde en tête : une équipe de douze personnes a mis en place un simple registre des systèmes d'IA utilisés, avec pour chacun un responsable, une description de l'usage, une date de dernière revue. Coût total : quelques heures de travail. Ce registre a suffi à faire remonter deux usages problématiques que personne n'avait repérés. Pas de comité, pas de consultant.

Par où commencer quand on est une petite structure

Les grands groupes ont des directions éthique, des juristes, des comités. Les TPE et PME n'ont rien de tout ça, et c'est normal. Mais elles peuvent faire l'essentiel avec trois gestes simples.

1. Tenir une liste à jour des outils d'IA utilisés dans l'entreprise, y compris ceux que les salariés installent discrètement sur leur navigateur.
2. Pour chaque outil, écrire en une page : ce qu'il fait, qui en est responsable, quelles données il voit, et comment on contesterait une décision.
3. Bloquer une heure par trimestre pour relire cette liste. C'est tout.

Sur un projet mené l'an dernier, ces trois gestes ont pris moins d'une journée au total, répartie sur six mois. Le gain n'était pas de la conformité pure : c'était de pouvoir répondre clairement à un client qui posait des questions sur notre usage de l'IA. Ça a compté.

Et si vous utilisez un outil tiers ?

Vous restez responsable. Le fournisseur a ses propres obligations, mais la décision d'utiliser son outil est la vôtre, et ses effets sur vos clients aussi. Beaucoup d'organisations l'oublient : elles achètent un service, supposent que la conformité est incluse, et se retrouvent exposées. Lisez les conditions, demandez où sont hébergées les données, et vérifiez si un humain peut corriger une sortie problématique.

Ce qui reste en suspens

Il y a une question que je n'arrive pas à trancher, même après des années passées sur ces sujets. Si une organisation met en place toutes les garanties formelles — traçabilité, recours, audit, supervision — mais que, dans les faits, personne ne prend jamais le temps d'utiliser ces recours, l'éthique a-t-elle été respectée ? Le dispositif existe. Il ne sert pas.

Je penche pour une réponse inconfortable : non, elle n'a pas été respectée. La mécanique n'est pas la morale. Ce qui compte, au fond, c'est que quelqu'un, quelque part, ait vraiment le pouvoir de dire « non, cette machine se trompe, et voilà pourquoi ». Tant que ce pouvoir reste théorique, tout le reste n'est qu'un document rangé dans un dossier.