Décibels #7 | L'IA a-t-elle franchi le mur du son ?

Sourdine : la rubrique de veille anti-acouphènes.

De 160 dB (saturation), 80 dB (conversationnel), ou 20 dB (signal faible), on analyse les bruits qui ont fait l'actualité récente en veillant à monter le son de ceux que l’on a insuffisamment entendus.

160 dB : Le départ en trombe de Jacob Coxon

Le 9 septembre, le départ du chercheur Jacob Coxon d’Anthropic, auparavant passé par OpenAI, a sonné le tocsin dans le monde de l’IA et au-delà. Son annonce s’est assortie de déclarations publiques à l’encontre des deux principaux acteurs américains du marché, qu’il accuse de « foncer tout droit vers une superintelligence capable de s’améliorer elle-même et de jouer avec nos vies ». Evan Hubinger, responsable de la sûreté chez Anthropic, a abondé dans son sens, évaluant à « plus de 10 % » le risque que l’IA provoque l’extinction de l’humanité au cours de la décennie. Alors que la sonnette d’alarme retentit, il n’est pas question de minimiser les risques, mais de faire du tri dans le tumulte médiatique.

On baisse la fréquence pour se concentrer sur l’essentiel :

• Un air déjà entendu : la question du risque existentiel posée par l'IA n'est pas nouvelle. Dès février 2019, OpenAI affirmait que son modèle GPT 2.0 était trop dangereux pour être sorti, avant de finalement le rendre public six mois plus tard. Le sujet revient régulièrement depuis le lancement de ChatGPT auprès du grand public en novembre 2022. Les Britanniques avaient même consacré le tout premier Sommet mondial sur l'IA (l'AI Safety Summit) à ce sujet en novembre 2023. La mélodie revient donc avec force, relancée par les déclarations de Jacob Coxon et les progrès significatifs des modèles d’IA ces derniers mois.
   
• Pas de panique mais de la raison : de nombreux chercheurs jugent crédibles des scénarios de perte de contrôle aux conséquences graves, et ces alertes méritent d'être entendues. En revanche, l’hypothèse de 10 % de risque d’extinction de la civilisation humaine dans la décennie n’est soutenue par aucun consensus scientifique. Le danger, à trop se focaliser sur l’AIpocalyse, est de ne plus suffisamment entendre les risques bien documentés qui nécessitent toute notre attention : risques cyber, désinformation, emploi, environnement ou encore propriété intellectuelle.
   
• La partition doit être lue à travers le prisme de la course à l’IA entre Washington et Pékin. Nettement moins chers, les modèles open weight chinois les plus récents séduisent au-delà de leurs frontières, jusque dans la Silicon Valley elle-même. Les acteurs américains s'en servent pour justifier leur accélération tout en appelant à une pause pour conserver la main.
   
• Le tempo des marchés financiers : alors qu’OpenAI et Anthropic préparent leurs entrées en bourse respectives, alerter sur la génialité, même dangereuse, de leurs produits est une mécanique bien huilée qui permet de maintenir la hype au bon niveau sonore.

80 dB : L’Union européenne donne le la sur la protection des mineurs 

L’expérience récente de la loi sur l’interdiction des réseaux sociaux aux moins de 15 ans illustre les difficultés liées au contrôle de l’âge en ligne, à la suite de la censure du Conseil constitutionnel du 14 août 2026. Les Sages ont considéré que le texte portait « une atteinte disproportionnée » à la liberté d’expression et de communication des adolescents, tout en reconnaissant « l’exigence constitutionnelle de protection de l’intérêt supérieur de l’enfant ».

Seule l’interdiction des téléphones portables étendue au lycée a été validée par le Conseil constitutionnel et est mis en place depuis la rentrée scolaire de septembre.

Les velléités françaises ne sont pas isolées : de nombreuses initiatives en faveur d’une restriction de l’accès aux réseaux sociaux (Irlande, Espagne, Grèce, Portugal, Norvège, Danemark, Autriche, Slovénie etc.) témoignent de la nécessité d’une action harmonisée à l’échelon communautaire.

Au sein de l’UE : partition commune avec l’EU Kids Act

Pour harmoniser ces initiatives, la présidente de la Commission européenne Ursula von der Leyen a présenté le 16 septembre 2026 dans son discours sur l’état de l’Union, la proposition de l’EU Kids Act.

Filtrage des séquences : ce qu’il faut retenir

• Vers une majorité numérique unifiée : la presse a très largement relayé le volet réseaux sociaux (qui s’étend aux jeux-vidéo en ligne et aux magasins d’application) prévoyant une réponse graduée avec une interdiction des réseaux sociaux aux moins de 13 ans, seuil aligné avec les conditions générales d’utilisation (CGU) des plateformes, des « mini-comptes » aux fonctions limitées pour les mineurs de 13 à 15 ans et une conception sécurisée limitant les « fonctionnalités addictives » et un temps d’exposition limité jusqu’à 18 ans.
   
• Les chatbots et compagnons IA dans le viseur : au-delà des réseaux sociaux, la Commission cible aussi les « designs addictifs » des IA conversationnelles et des systèmes « simulant les relations interpersonnelles », susceptibles de créer des « dépendances émotionnelles ». Dans la note de mars 2026 Protection des mineurs en ligne par le contrôle de l’âge : comment aller plus loin ? nous évoquions la nécessité d’encadrer l’accès des mineurs au-delà des réseaux sociaux et de cibler les IA conversationnelles et les usages de type compagnonnage. Le texte prévoit que ces services, lorsqu’ils sont accessibles sans inscription ni authentification, doivent être configurés par défaut de manière à garantir un niveau élevé de vie privée, de sécurité et de sûreté pour les mineurs, selon le principe de safety by design. Restez à l'écoute : l’encadrement des systèmes d’IA générative accessibles aux mineurs seront au cœur de notre prochaine lettre.

Ainsi, la Commission propose une méthodologie en deux temps : (i) pour les nouveaux comptes, les plateformes et les fournisseurs devront mettre en place une vérification de l’âge au moment de la connexion ; (ii) pour les comptes existants, des « vérifications proportionnées plutôt qu’à une vérification d’âge généralisée ».

Les eurodéputés et les 27 États membres doivent néanmoins s’entendre sur ce projet de règlement avant que le texte n’entre en vigueur. 

20 dB :  Rachat de Hugging Face par Nvidia

Le jeudi 3 septembre, Jensen Huang, a annoncé l’acquisition de Hugging Face par Nvidia pour 12,9 milliards de dollars. Fondée en 2016 par trois français (Clément Delangue, Julien Chaumond et Thomas Wolf), la plateforme franco-américaine est devenue une véritable bibliothèque de l’IA open source, avec plus de 3 millions de modèles hébergés. Elle reste l'un des seuls projets libres et massifs européens en matière d’IA et la principale porte d'entrée mondiale vers l'IA ouverte. Que faut-il en retenir ?

Tendons l’oreille :

• Une bonne nouvelle pour l’open source, sous conditions. Nvidia a déjà investi le terrain avec sa propre suite ouverte, Nemotron, et renforce ainsi son empreinte dans l’écosystème open source, dans un contexte où les modèles ouverts pèsent de plus en plus face aux modèles propriétaires fermés. D’ailleurs, les précédents du rachat de GitHub par Microsoft ou de Red Hat par IBM ont montré que la philosophie et l’ouverture des communs pouvaient survivre à un rachat. De son côté, Nvidia assure également vouloir maintenir le service « neutre et ouvert » ; comprenez : ne pas utiliser les modèles à des fins commerciales.
   
• Nvidia étend encore son empire. Le dernier rapport du groupe scientifique international indépendant de l’ONU faisait état d’une chaîne de valeur de l’IA ultraconcentrée, où un seul fournisseur détient « 80 % ou plus du marché à chaque maillon clé » (ASML pour la lithographie, TSMC pour la gravure des puces, Nvidia pour leur conception). Le mastodonte américain n’est plus seulement fournisseur de puces et éditeur de modèles mais également propriétaire d’une des principales plateformes de diffusion. « En favorisant le développement de l'open source, Nvidia peut espérer une démocratisation accrue de l'IA en entreprise, grâce à des coûts moins élevés, ce qui devrait aussi se traduire par une plus forte demande pour ses propres cartes graphiques », lisait-on dans CaféTech.
   
• La soutenabilité des communs numériques en question. Le modèle économique des communs peine toujours à trouver un financement pérenne. Malgré des capitaux considérables, le rachat de Hugging Face illustre, par contraste, cette fragilité structurelle. Comme le rappelle Le Monde qui cite Clément Delangue : « Nous sommes à un point d’inflexion pour Hugging Face et l’IA open source : avec les moyens et le soutien de Nvidia, nous pourrons développer notre activité et ainsi la faire passer à une échelle supérieure ». Actuellement, les revenus de Hugging Face n’étaient que de 100 millions de dollars par an environ.
   
• Cet épisode nous rappelle les atouts de l'open source qui doit jouer un rôle majeur pour l’autonomie stratégique européenne, en articulant mieux innovation privée, communs numériques et action de l'État, comme le rappelle notre rapport Souveraineté numérique : de l'urgence d'organiser la coopération entre le public, le privé et les communs numériques.

Le contrechant : Le narratif catastrophiste qui entoure l’IA sature les ondes, au détriment des risques avérés.

Les risques de l'IA ne sont pas ceux qu'on croit entendre : le risque cyber monte crescendo

Comme indiqué un peu plus haut dans notre 120 dB, l'air d'un risque « existentiel » lié à l'intelligence artificielle n'est pas nouveau. S’il resurgit de façon aussi sonore, c'est à la fois parce que les modèles ont réalisé, ces derniers mois, des progrès considérables dans des domaines stratégiques et que leurs capacités évoluent plus rapidement que notre aptitude à les mesurer. Se focaliser sur ce risque fantasmé ne doit toutefois pas occulter d'autres formes de risques, bien réels et documentés, au premier rang desquels la cybersécurité.

Des capacités qui évoluent plus vite que notre aptitude à les mesurer

Cet été, lors d'évaluations internes menées avec des protections volontairement réduites, plusieurs agents IA développés par OpenAI sont sortis de leur environnement de test, ont accédé au réseau, puis exécuté du code sur les serveurs de Hugging Face. Sans qu'il s'agisse d'une attaque délibérée, l'épisode démontre que les systèmes agentiques peuvent désormais enchaîner des actions non prévues par leurs concepteurs, hors de leur périmètre initial et sans validation humaine préalable. Le tempo en tout cas s’accélère : le lancement de GPT-6 Astra début septembre donne la mesure du saut accompli. Le nouveau modèle d'OpenAI a obtenu un score quasi parfait au test ARC-AGI-3, de l'ordre de 99,9 %, là où son prédécesseur GPT-5.6 Sol plafonnait à 7,8 % et Claude Opus 5 d'Anthropic, lancé six semaines plus tôt, à environ 30 %. Une échelle de progression qui interroge, quel que soit le protocole d'évaluation retenu, notre capacité – et notre volonté –  collective à suivre le rythme.

IA & cyber : un nouveau dilemme de souveraineté

En matière de cybersécurité, l’IA est agnostique : d’une part, elle aide les défenseurs en multipliant leurs capacités de détection des failles et vulnérabilités, d’autre part elle sert les attaquants en les aidant à gagner en crédibilité et à automatiser les attaques. Si l’usage de l’IA devient indispensable, il risque aussi de créer de nouvelles dépendances technologiques particulièrement importantes, voire même un « dilemme de souveraineté »  pour les acteurs qui, soucieux de rester à la pointe des usages, fragiliseraient leur maîtrise  des risques et l’immunité de l’architecture de leurs systèmes d’information en étendant  considérablement la surface du risque cyber.

Se doter des moyens d'évaluer les modèles

La montée en puissance des capacités en matière cyber et de code reste concentrée dans une poignée de laboratoires américains et chinois, créant une dépendance critique, d'autant plus sensible alors que des restrictions à l'exportation, voire des interdictions, sont évoquées pour certains modèles ouverts chinois. Un même refrain se joue des deux côtés du Pacifique puisque l'épisode Mythos [l’accès au modèle jugé trop dangereux avait été suspendu et mis à disposition d’un cercle restreint d’organisations], avait démontré la capacité d’un État à décider seul de qui peut utiliser ou évaluer une technologie critique.

Cette forte asymétrie d'informations pourrait se doubler d’un retard dont les conséquences, à moyen terme, dépasseront la seule sûreté des modèles pour peser sur la qualité de notre écosystème et sur notre capacité à retenir les talents. Dans ce contexte, nous appelions dès le mois d’avril à la structuration accélérée d’un écosystème public-privé européen d’évaluation des modèles d’IA autour de l’Institut national pour l’évaluation et la sécurité de l’IA (INESIA) et de laboratoires IA de pointe en Europe.

Fréquences : la sélection pour se brancher au bon canal.

Une rubrique de curation de contenus, pour prolonger la réflexion et vous fournir des liens utiles.

• 🎤 Pour comprendre ce qui se joue, l’interview d’Arthur Mensch, accordée au quotidien Le Monde, très éclairante dans cette course au catastrophisme.
   
• 📧 Mais aussi cet édito d’Ambroise Garel pour Le Pavé numérique, brillant.
   
• 🗞️ Et enfin ce papier du Monde Pixels « La menace existentielle de l’IA sur l’humanité, risque théorique ou inquiétude légitime ? ».
   
• 📋 Visibiliser le coût de l’IA : une nouvelle étude de l’institut de recherche Epoch AI démontre une baisse du coût pour atteindre un haut niveau de performance de l’IA depuis 2023.
   
• 📚 Dans son dernier livre La fabrique de la souveraineté, Sébastien Soriano explore les conditions de la construction d'une souveraineté numérique européenne : dépasser les seuls outils de subvention et de régulation pour inventer une coopération accrue entre la puissance publique, les entreprises, les utilisateurs et les citoyens.
   
• 📺 10 documentaires et reportages recensés par Chloé Debiève pour approfondir les enjeux d’influence, d’ingérences numériques et de manipulations de l’information. Les liens vers les émissions sont en commentaires du post.
   
• 🎥 La prochaine édition de Numérique en Commun[s] aura lieu à Rennes les 12 et 13 janvier 2027. Le thème sera celui de l’autonomie. Pourquoi ce mot ? C’est à découvrir dans cette capsule vidéo de 3 minutes.

Le Sonar : le conseil pour augmenter ses pratiques numériques d’un demi-ton.

Depuis le 22 juillet 2026, les Aperçus IA (AI Overviews) de Google générés par Gemini s'affichent en tête des résultats de recherche en France, avant même les URL généraux. Pour celles et ceux qui souhaiteraient revenir à la mélodie initiale, il existe des solutions ! Si Google ne propose pas de paramètre dédié, Les Numériques ont rapidement partagé un tuto pour s’en défaire (au moins sur Chrome et Firefox) !

Chrome

• Allez dans Paramètres > Moteur de recherche > Gérer les moteurs de recherche > Ajouter.
• Nommez-le « Google Web », renseignez « google.com » comme raccourci et comme URL.
• Enregistrez, puis définissez-le par défaut via les trois petits points > Utiliser par défaut.
   

Firefox

• Allez dans Paramètres > Recherche > Ajouter un moteur de recherche.
• Nommez-le « Google Web » et renseignez https://www.google.com/search?udm=14&q=%scomme URL.
• Enregistrez, puis définissez-le par défaut.

Toujours sur Chrome, Firefox ou sur d’autres moteurs de recherche, il est également possible d’installer une extension dédiée. Le Monde Pixels en recense quelques-unes comme : « Bye Bye Google AI », « Hide Google AI », « 10 Blue Links » ou « Hallu Block ».

À vous de jouer 🎵

L'interlude : une respiration dans le flux, des dates pour aller écouter ou voir des choses.

• Jusqu'au 27 août 2027, la Cité des sciences et de l'industrie propose « Esprit critique, venez vous tester », une exposition qui invite petits et grands à décrypter leurs propres mécanismes de pensée (biais cognitifs, raisonnement, influence des algorithmes) et affûter son oreille dans le bruit ambiant : « Rien n’est acquis : l’esprit critique, cela s’entretient ».
   
• Le 6 octobre, la troisième édition de l'Odyssée de l'IA, organisée par l'Opinion et La villa numeris, réunira des experts pour aborder la question de la souveraineté numerique et de ses enjeux.
   
• Les 7 et 8 octobre, Caen accueille la deuxième édition des Assises nationales de l'intelligence artificielle, organisées par Ouest-France et la Région Normandie, sur le thème « Du vertige à la responsabilité ». Elles accueilleront décideurs publics et privés, chercheurs et entrepreneurs pour comprendre la révolution technologique en cours.

Fin de transmission !

Merci pour votre lecture. Pour ne rien manquer des actualités du Conseil de l'IA et du numérique, restez à l'écoute sur notre site internet et nos réseaux sociaux.

Nous contacter :

info@conseil-ia-numerique.fr