IA générative : dette cognitive, dépendance et menace démocratique

Délégation des fonctions cognitives, dépendance affective, explosion des contenus pédocriminels : la commission « IA générative et vulnérabilités » dresse un état des lieux édifiant des risques liés à ces outils.

Il a fallu deux mois à ChatGPT pour dépasser 100 millions d’utilisateurs, contre plus de deux ans pour les grands réseaux sociaux.
Coprésidée par Serena Villata, directrice de recherche au CNRS, et les psychiatres Raphaël Gaillard et Amine Benyamina, la commission identifie un premier risque : la délégation de fonctions cérébrales essentielles (raisonnement, expression, prise de décision, esprit critique), à l’origine d’une « dette cognitive » croissante.
Selon une étude du MIT, le recours aux chatbots pour une tâche d’écriture réduirait de 55 % l’amplitude cognitive. La dépendance s’étend en outre à la sphère émotionnelle, favorisée par l’anthropomorphisation et la flagornerie de ces systèmes. Les mineurs, à la maturation cérébrale inachevée, sont particulièrement exposés : la moitié d’entre eux abordent des sujets personnels avec ces outils.
L’IA générative accélère aussi les violences numériques en fournissant des modes d’emploi de scarification, des régimes restrictifs ou des deepfakes pornographiques, lit-on dans le rapport. En 2025, près de 500.000 signalements de contenus pédocriminels générés par IA ont été recensés (+10.538% en deux ans).
Autre alerte des spécialistes : « les vulnérabilités observées à l’échelon individuel sont de nature à se répliquer de façon plus structurelle à l’échelle de nos sociétés », ce qui interroge, à moyen terme, « la cohésion sociale et l’exercice démocratique dans un monde profondément empreint d’IA générative ».
Or 73% des Français s’en servent déjà pour s’informer et plus d’un tiers ne vérifient jamais les informations ; 16% y ont même eu recours pour orienter leur vote aux dernières municipales. « Cette infiltration, doublée d’une grande persuasion de l’IA générative, engendre des défis dans le rapport des citoyens au débat public et à la confrontation des idées », soulignent-ils. 
Leurs 18 recommandations ciblent en priorité le modèle économique des concepteurs plus que la responsabilité des usagers, dont celle d’encadrer les mécanismes de dépendance, de conditionner l’accès au marché à une évaluation préalable des effets sur les vulnérabilités et de former massivement à l’IA dès le plus jeune âge.

Référence :
Commission « IA générative et vulnérabilités ».
Protéger sans empêcher : nos vulnérabilités à l’ère de l’IA générative. Rapport remis au président de la République, 10 novembre 2026.

Tags: No tags

Add a Comment

Your email address will not be published. Required fields are marked *