Décibels #6 | IA agentique : ajuster le volume des données personnelles

Sourdine : la rubrique de veille anti acouphènes.

Ce mois-ci, nous vous proposons trois rapports à découvrir dans l’accalmie de l’été, du plus visible (120 dB) au plus confidentiel (20dB). 

120 dB : Souveraineté numérique, la commission d'enquête hausse le ton

La commission d’enquête de l’Assemblée nationale sur les dépendances structurelles et les vulnérabilités systémiques dans le secteur du numérique et les risques pour l’indépendance de la France a rendu ses conclusions le 15 juillet, au terme de quatre mois de travail. Le rapport d’enquête formule 29 propositions, articulées autour de six leviers dont les communs numériques, l’open source et la gouvernance, qui font écho aux recommandations formulées par le Conseil dans son rapport « Souveraineté numérique : De l’urgence d’organiser la coopération entre le public, le privé et les communs numériques », paru au mois de mai 2026.

• Positionner crescendo l’État dans le libre d’ici à 2030 : tout comme le CIANum, la commission d’enquête voit dans le logiciel libre et l’open source « des alternatives à la domination des GAFAM ». En effet, 1,5 milliard d’euros d’achats publics sont dirigés chaque année vers des logiciels propriétaires extra-européens dont les licences, déjà coûteuses, peuvent faire l’objet de hausses tarifaires unilatérales. Pour pallier ce risque et celui de kill switch, le rapport d’enquête préconise – entre autres – de rendre obligatoire l’open source dans les appels d’offres des administrations publiques et opérateurs d’ici 2030.
   
• Un arsenal de souveraineté pour les fleurons technologiques : pour soutenir les acteurs stratégiques et bénéficier durablement de la valeur créée sur le sol français, le rapport d’enquête propose un « arsenal de souveraineté » (propositions n°18, n°19, n°20) comprenant notamment, en cas de rachat d’une entreprise française par un acteur extra-européen, le remboursement des aides à l’amorçage et du crédit impôt recherche dont elle aurait bénéficiés ; la détention, par l’État, de golden shares (actions spécifiques qui confèrent à son détenteur des droits de contrôle exceptionnels et un droit de veto, le tout sans nécessairement posséder une participation majoritaire au capital), au sein d’entreprises françaises stratégiques du numérique comme Mistral ou ChapsVision ; et l’inscription dans les marchés publics d’une « clause de souveraineté finale » qui garantisse que les services de l’État continuent de fonctionner même si le prestataire est racheté par un acteur extra-européen.
   
• Sur les infrastructures, le rapport pointe le risque que les centres de données profitent avant tout aux acteurs… américains. Sur les 15 GW de capacité électrique réservée par RTE pour le raccordement des projets de data centers au réseau français, seuls 1,4 GW sont captés par des acteurs européens. À ce titre, le rapport préconise d’instaurer un contrôle public soumettant le déploiement des centres de données à des critères de souveraineté, lesquels restent à préciser, afin de réserver des capacités pour certains usages, limiter les risques de monopoles et protéger les données vis-à-vis de législations extraterritoriales.

Sur le plan de la protection des données industrielles vis-à-vis de lois extraterritoriales, les fleurons français ne sont plus à convaincre : Airbus a récemment annoncé rapatrier l’hébergement de ses données sensibles (R&D, contrats, cybersécurité notamment) chez Scaleway, pépite française du cloud. 
 

80 dB : Harmoniser la gouvernance de l’IA : l’ONU publie son premier rapport indépendant et appelle à des garde-fous urgents et collectifs

Début 2026, les Nations Unies annonçaient la création d’un panel scientifique international indépendant de 40 experts, à l’image du GIEC, pour faire progresser la connaissance scientifique sur l’IA, en évaluer les risques et les opportunités et éclairer les décideurs. Le groupe a rendu, au début du mois, un rapport préliminaire : « Évaluation des possibilités, des risques et des répercussions de l’intelligence artificielle fondée sur des données probantes », en amont du premier Dialogue mondiale des Nations Unies sur la gouvernance de l’IA, qui se tenait à Genève les 6 et 7 juillet derniers. On monte le son sur ses enseignements clés :

• Les capacités de l’intelligence artificielle évoluent plus rapidement que notre aptitude à les évaluer ou à les maîtriser. De plus en plus performants, les modèles d'IA parviennent désormais à mémoriser les réponses aux tests, à réussir avec brio les benchmarks qui les évaluent – devenus trop accessibles – ou même brider leurs capacités s'ils se savent évalués pour éviter d’être désactivés. Pour suivre le rythme d’évolution de l’IA, les méthodes d’évaluation et les dispositifs de gouvernance doivent mettre en place des tests dynamiques continus et analyser le fonctionnement interne des modèles afin de détecter leurs comportements cachés.
   
• La chaîne d’approvisionnement de l’IA est caractérisée par une très forte concentration du marché : les trois quarts de la puissance de calcul sont localisés aux États-Unis (contre 15 % en Chine et 10 % dans le reste du monde) et 91 % des modèles les plus importants ont été mis au point par le secteur privé.
   
• Des inégalités numériques persistantes ? L’IA pourrait aggraver les disparités entre les pays disposant de ressources et d’infrastructures et ceux qui en sont privés, alerte le rapport. Ces rapports de force inégaux ne concernent pas seulement l’accès aux modèles mais aussi la représentation linguistique et culturelle, ainsi que la gouvernance de l’IA, désignée comme « l’aptitude [des pays] à comprendre, à orienter, à réglementer et à soutenir le développement de l’IA ». L’extrême concentration du marché affecte la gouvernance, en empêchant les pays qui n’ont pas les infrastructures et les capacités de test « de codévelopper des technologies clés, de donner forme aux dispositifs de gouvernance, d’influencer les normes mondiales naissantes et de retenir les talents. » Les chiffres sont criants : selon la CNUCED, 118 pays, situés majoritairement dans le monde dit « du Sud », ne participent pas aux grands débats sur la gouvernance de l'IA et moins d'un tiers des pays en développement disposent d'une stratégie nationale en matière de gouvernance de l’IA.
   

20 dB : « J’adore, mais je déteste », que signifie grandir en ligne ? 

Les députés et sénateurs français viennent d’adopter l’interdiction des réseaux sociaux au moins de 15 ans mais nous prenons rarement le temps de comprendre les pratiques numériques réelles des jeunes. Outre-Manche, l'Ada Lovelace Institute a publié en mai dernier un rapport d’une ampleur inédite, passé sous les radars ici en France, pour décortiquer les expériences et attentes de la première génération de jeunes à grandir avec les technologiques numériques au début du XXIe siècle.

Une cinquantaine de personnes âgées de 14 à 24 ans ont été interrogées et suivies. Malgré la diversité d’âges, d’expériences, de milieux sociaux, de rapports à la technologie, des convergences autour de constats clés ressortent, articulées autour d’un paradoxe assez binaire : d’une part, le numérique est à la fois un espace de connexion, de soutien et d’émancipation, d’autre part, il est un terrain miné par des risques systémiques qui échappent souvent aux jeunes comme aux adultes :

• Un espace vital à double tranchant. Pour les jeunes, surtout ceux issus de milieux marginalisés, le numérique offre un accès inédit à l’information, à des communautés bienveillantes et à des ressources absentes de leur vie « hors ligne ». Pourtant, ces usages les exposent aussi très tôt à des risques omniprésents : contenus sexuels explicites, partage non consenti d’images intimes, violences ou discours haineux. Ces expériences, souvent genrées, sont aggravées par l’isolement dans lequel les pratiques numériques ont lieu, sans soutien extérieur des adultes, et par un sentiment d’impuissance.
   
• Un numérique omniprésent et des discours contradictoires. Les jeunes se sentent pris en étau : on leur reproche leur dépendance aux écrans, mais on exige d’eux qu’ils utilisent le numérique pour tout – études, démarches administratives, recherche d’emploi. Résultat, ils subissent cette dépendance forcée, sans pouvoir en maîtriser les termes.
   
• Des plateformes conçues contre eux. Les jeunes dénoncent un modèle économique toxique : les choix de conception des plateformes (algorithmes, dark patterns, gamification) les privent de contrôle sur leur expérience en ligne. Ils se sentent manipulés par des systèmes conçus pour maximiser l’engagement et les profits plutôt que leur bien-être.
   
• Un appel à l’action politique. Face à ce constat, les jeunes réclament des changements structurels :
  • Des restrictions pour les plus jeunes (ex. : interdiction des réseaux sociaux avant 16 ans) assorties d’alternatives (espaces numériques et physiques sûrs).
  • Une régulation de la conception des plateformes : les dark patterns et algorithmes addictifs doivent être encadrés pour tous, pas seulement pour les mineurs.
  • Un contrôle accru sur l’IA : les jeunes s’inquiètent des impacts systémiques de l’IA (désinformation, surveillance, déshumanisation des relations, précarisation de l’emploi) et demandent une régulation des modèles sous-jacents.
  • La création d’un « Young People’s Board on Digital Futures » : une instance permanente où des jeunes co-construiraient les politiques numériques.
     
• Une résignation inquiétante. Malgré leur lucidité, les jeunes expriment un désenchantement : ils ne croient plus en une amélioration significative de leur environnement numérique.

Cette étude rappelle que les enjeux numériques des jeunes ne sont pas isolés : ils reflètent les défauts structurels de services numériques conçus pour l’exploitation des données et l’engagement à tout prix. Protéger les jeunes suppose de repenser le numérique pour tous et d’engager des chantiers prioritaires pour construire des espaces numériques plus sûrs.

IA agentique et protection des données personnelles – une équation à inconnues multiples pour les utilisateurs

Le passage à l’IA agentique engendre de nouveaux risques au niveau de la protection des données personnelles des utilisateurs. En dépassant le simple traitement de requêtes pour atteindre une autonomie d’action croissante, les systèmes agentiques bousculent le cadre légal de la protection des données et diluent la maîtrise de l'utilisateur sur ses données personnelles.

Dans ce contexte, nous avons examiné, en collaboration avec la CNIL, la manière dont les capacités de personnalisation et d'autonomie de l'IA agentique marquent un changement d’échelle dans la collecte, le traitement et la circulation des données personnelles – interrogeant la maîtrise par les utilisateurs, de leurs données. Il en ressort que :

• La capacité des IA agentiques à réaliser de multiples tâches successives et à interconnecter plusieurs agents au système, constitue une rupture dans le traitement et la circulation des données personnelles et met en tension les principes fondamentaux du Règlement général sur les données à caractère personnelles (RGPD), entré en vigueur en 2018, alors que les IA génératives n’étaient pas généralisées auprès du grand public.
   
• Le fonctionnement et l’amélioration continue des agents IA reposent sur une connaissance fine, continue et évolutive de l'utilisateur. Grâce à une mémoire persistante, l'IA agentique créé des profils utilisateurs très précis qui, couplés à une autonomie décisionnelle accrue, risquent d’engendrer une perte de maîtrise de l’utilisateur sur ses données personnelles.
   
• L’opacité des flux entre de multiples services complexifie l’attribution des responsabilités entre les acteurs de la chaîne de valeur. Le manque de transparence de cette architecture accentue les risques liés aux décisions automatisées et leurs impacts pour les utilisateurs, en particulier dans des secteurs sensibles ou régulés. Plus largement, les caractéristiques propres de l’IA agentique créent une incertitude quant à la conformité aux règles applicables.

La note explore, par ailleurs, des voies de conciliation possibles pour garantir l’effectivité du cadre juridique, d’une part et mettre en œuvre des mécanismes techniques de contrôle et de supervision, d’autre part.

Une rubrique de curation de contenus, pour prolonger la réflexion et vous fournir des liens utiles. 

• 📋 Les conseils de la CNIL et les paramètres à ajuster pour vous opposer à la réutilisation de vos données personnelles à des fins d’entraînement d’agents conversationnels.
   
• 🧩 « Données paires-sonnelles » : la CNIL réinvestit le jeu du Mémory pour apprendre à rendre vos traces en ligne moins visibles.
   
• 🤖 AlphaChat, le chatbot entièrement open source et résolument collaboratif de Current AI, initiative phare du sommet mondial sur l'IA de Paris (février 2025). Il s'inscrit dans le projet AI Potluck, initiative dont la feuille de route collective vise le développement d'une stack d'IA ouverte et d'intérêt public.
   
• 🤖 Lumo AI, l’intelligence artificielle de Proton, qui garantit un chiffrement à accès zéro (empêchant même Proton d’accéder aux conversations) et protège la confidentialité de vos échanges, en plus d’être européenne.
   
• 💡 Jumeaux numériques, le jeu : un kit de jeu à télécharger et à assembler pour comprendre comment l'intelligence artificielle collecte et traduit vos données personnelles dans la création de votre jumeau numérique (La Mednum)
   
• 📺 Un épisode de Vinz et Lou sur Internet consacré aux données personnelles et au RGPD à destination des 8-11 ans pour aborder avec eux les bons réflexes et la détection de pratiques trompeuses en ligne, via Tralalere.

Après une rubrique réflexive, une rubrique plus directement activable 

Deux réglages dans les paramètres de ChatGPT pour reprendre la main sur vos données.

Ce conseil repéré sur Les Numériques fait écho à notre Contrechant : deux réglages simples dans l’interface de ChatGPT (si vous en êtes utilisateur) vous permettent de mieux protéger vos données personnelles, accumulées par le chatbot au fil de vos échanges.

1/ Désactiver la mémoire et effacer l’existant : dans l’interface de votre profil, cliquez successivement sur les onglets Paramètres > Personnalisation > Mémoire. Désactivez l'option « Activer la mémoire » pour empêcher ChatGPT d’enregistrer vos échanges et vos données dans un objectif de personnalisation, puis cliquez sur « Gérer la mémoire » pour effacer manuellement les éléments déjà enregistrés.

2/ Verrouiller l'entraînement des modèles d’OpenAI : rendez-vous ensuite dans Paramètres > Gestion des données. Décochez l'option « Améliorer le modèle pour tous » afin d'empêcher que l'historique de vos futures sessions ne servent à entraîner les modèles d’OpenAI.

Les Numériques ajoute un dernier conseil, mobilisable sur tout autre modèle et éditeur d’IA pour protéger les requêtes et les données le plus sensibles : vous pouvez ouvrir des chats éphémères. Ces discussions à sens unique ne créent aucun souvenir, n'alimentent aucun contexte persistant et ne servent jamais à l’amélioration des modèles.

L'interlude : une respiration dans le flux, des dates pour aller écouter, ou voir des choses (conférences, colloques, expositions, journées thématiques).

• Œuvres contemporaines, jeux perceptifs, simulacres numériques, images générées par IA… À travers l’exposition collective « Simulacres », Les Magasins Généraux nous invitent à interroger notre faculté de distinguer le vrai du faux. L’exposition est accessible gratuitement jusqu’au 27 septembre.
   
• La rediffusion de la 5ème édition de la Journée de recherche sur la vie privée 2026 (Privacy Research Day) au travers de cinq panels et tables-rondes accueillis par la CNIL dans le cadre du G7 des autorités de protection des données.
   
• Destination IA : « L’expo qui casse les codes en Normandie ». À l’Atrium de Rouen, une exposition immersive et interactive pour comprendre le fonctionnement de l’intelligence artificielle tout en posant les questions éthiques, les risques ou la place des femmes. Jusqu’au 31 octobre 2027.

Fin de transmission ! Merci pour votre lecture. Pour ne rien manquer des actualités du Conseil de l'IA et du numérique, restez à l'écoute ici et sur nos réseaux sociaux.