Regards complémentaires · IA générative

Troisième malentendu de l’IA générative : la gouvernance¶

Adaptation d’un article publié sur LinkedIn en juin 2026. Troisième et dernier volet de la série sur les malentendus de l’IA générative.

On a vu que le modèle génératif n’est pas un calcul mais une production sous contrainte statistique, et que la combinaison de tâches qui maximise sa valeur est l’inverse de celle vers laquelle la doxa oriente les déploiements. Reste la question la plus difficile, celle de la gouvernance. Sur ce point, les grandes organisations reproduisent l’erreur des deux premiers volets, à une échelle supérieure.

La réponse standard est connue. Un comité éthique qui se réunit quelques fois par an et publie une charte. Une charte d’usage qui rappelle l’obligation de relecture humaine. Une revue qui valide les déploiements. Une formation générale qui explique les biais. Tout cela est nécessaire, tout cela est insuffisant. Tout cela est, pour reprendre un mot peu utilisé en entreprise, cosmétique, au sens propre : ce qui couvre la surface sans modifier ce qu’elle recouvre.

L’insuffisance ne tient pas à la qualité des personnes qui animent ces dispositifs ni à la sincérité des dirigeants qui les valident. Elle tient à ce que ces dispositifs ont été conçus pour gouverner du logiciel classique, dont le comportement est spécifiable, reproductible, vérifiable. Appliqués à un outil dont le comportement n’est rien de tout cela, ils donnent l’illusion d’une maîtrise qui se dissipe dès la mise en production sur des cas non anticipés. Le comité sait dire ce qui est interdit, mais pas ce qui est seulement risqué. La charte sait demander la relecture, mais pas garantir qu’elle ait lieu. La revue sait valider un déploiement initial, mais pas suivre la dérive des usages.

Les trois malentendus convergent dans une thèse. Nous gouvernons l’IA générative avec les catégories du logiciel parce que nous n’avons pas encore élaboré les catégories propres à ce nouvel objet. Cette non-élaboration n’est pas une lenteur transitoire : notre vocabulaire de gouvernance technologique, hérité de cinquante ans de logiciel d’entreprise, ne dispose pas des concepts permettant de gouverner un outil dont la valeur dépend de l’incertitude de sortie et dont le risque dépend de l’exposition à des usages non spécifiés à l’avance.

Ivan Illich, dans La convivialité, distinguait les outils qui augmentent l’autonomie de ceux qui créent leur propre dépendance. L’IA générative peut être l’un ou l’autre, selon la manière dont on construit son usage. Gouvernée comme un logiciel ordinaire, elle devient un outil de dépendance silencieuse qui érode les compétences qu’il prétend amplifier. Gouvernée selon ses propriétés effectives, elle pourrait être autre chose. La différence se joue dans le vocabulaire, et ce vocabulaire reste à inventer.

Référence dans le livre

Le chapitre 13 consacre une section à la gouvernance comme condition de la valeur, et détaille la politique d’usage et la classification des systèmes au regard du règlement européen sur l’intelligence artificielle. Cet article en propose un regard volontairement plus critique, sur les limites des dispositifs classiques. Page à préciser à la parution.