Faut-il watermark l’IA ?

La question semble technique, presque administrative, mais elle touche en réalité au cœur de notre rapport à la vérité. Depuis l’entrée en vigueur de l’AI Act européen le 1er août 2024, l’Europe a tenté de poser un cadre juridique protecteur : obligations de transparence, signalement des contenus générés, sanctions en cas de manquement. Pourtant, la prolifération de deepfakes, d’articles automatisés et d’images truquées progresse à une vitesse qui rend déjà la loi obsolète.

L’urgence dépasse la simple désinformation. Les chercheurs parlent désormais de « consanguinité numérique » : ce moment où les IA, s’entraînant sur leurs propres productions, finissent par s’appauvrir, recyclant leurs biais et multipliant leurs erreurs, jusqu’à produire davantage de bruit que de savoir.

IBM l’a nommé « model collapse », et des laboratoires français comme ceux du CNRS l’étudient déjà. L’analogie biologique est frappante : une lignée fermée sur elle-même dégénère, qu’il s’agisse de sang ou de code. À l’horizon, ce n’est pas seulement la perte de confiance du public, mais l’effondrement même de l’écosystème cognitif mondial.

Face à cette menace, une solution se profile : le marquage universel et indélébile par blockchain.

Chaque contenu IA porterait une signature invisible, infalsifiable, permettant d’éviter à la fois la tromperie et la contamination des données d’entraînement. Simple, radical, efficace : la promesse séduit.

La Chine l’a déjà imposé, l’Australie l’expérimente, et des géants comme Google ou OpenAI intègrent discrètement des filigranes dans leurs modèles. L’Europe, elle, hésite, oscillant entre équilibre démocratique et risque de paralysie.

Derrière cette apparente évidence se cache une inquiétude politique : qui contrôlerait ce registre universel ? Les États, les GAFAM, ou une structure internationale fragile et contestée ?

Le marquage absolu pourrait devenir l’outil rêvé d’une surveillance totale, transformant chaque création en suspect potentiel. Après les QR codes sanitaires, le tatouage numérique ?

L’argument de la transparence se confond vite avec celui du contrôle.

Certains, au contraire, plaident pour laisser les IA s’empoisonner elles-mêmes : une surabondance de faux contenus détruirait leur crédibilité, ramenant l’humain au centre par la valeur retrouvée de l’authenticité.

Faut-il protéger la confiance - et l’IA - par une régulation juridique lente mais légitime, ou par une solution immédiate mais potentiellement liberticide ?

Faut-il tout marquer pour sauver le savoir, ou accepter le chaos et miser sur notre capacité à distinguer nous-mêmes le vrai du faux ?

Le marquage, qu’il soit blockchain ou watermark invisible, sera nécessaire pour contenir l’explosion de contenus artificiels. Mais il ne suffira jamais car au fond, la meilleure arme contre la consanguinité numérique reste l’intelligence humaine, seule capable de donner sens, nuance et profondeur à ce que la machine n’imite qu’en surface.