Glossaire IA et cybersécurité

Pratiques, référentiels techniques et réglementaires, institutions compétentes et niveaux d'ouverture du code : les termes clés pour comprendre la note du CIANum « IA et cybersécurité : anticiper aujourd'hui pour maîtriser demain ». Explorez les termes ! 
<style>
  .glossaire-ia-bloc {
    font-family: 'Marianne', Arial, sans-serif;
    background: #eef3ff;
    padding: 30px 20px;
    border-radius: 20px;
    color: #082383;
    max-width: 1000px;
    margin: 20px auto;
  }
  .gi-titre {
    text-align: center;
    font-size: 2rem;
    font-weight: 800;
    margin-bottom: 25px;
    background: linear-gradient(130deg, #4D6DFF, #082383);
    -webkit-background-clip: text;
    -webkit-text-fill-color: transparent;
  }
  #gi-recherche {
    width: 100%;
    padding: 15px 20px;
    border-radius: 12px;
    border: 1px solid rgba(8,35,131,0.2);
    font-size: 16px;
    margin-bottom: 30px;
    box-sizing: border-box;
    outline: none;
    box-shadow: 0 4px 6px rgba(0,0,0,0.05);
  }
  #gi-recherche:focus {
    border-color: #4D6DFF;
  }
  .gi-grille {
    display: grid;
    grid-template-columns: repeat(auto-fill, minmax(300px, 1fr));
    gap: 20px;
  }
  .gi-carte {
    background: white;
    padding: 20px;
    border-radius: 15px;
    border: 1.5px solid rgba(8,35,131,0.1);
    cursor: pointer;
    transition: all 0.3s ease;
    display: flex;
    flex-direction: column;
    height: fit-content;
  }
  .gi-carte:hover {
    border-color: #4D6DFF;
    transform: translateY(-2px);
    box-shadow: 0 10px 20px rgba(8,35,131,0.08);
  }
  .gi-terme {
    font-weight: 700;
    font-size: 1.1rem;
    line-height: 1.3;
    color: #082383;
  }
  .gi-instruction {
    font-size: 11px;
    color: #4D6DFF;
    margin-top: 8px;
    font-weight: 500;
    text-transform: uppercase;
    letter-spacing: 0.5px;
  }
  .gi-definition {
    display: none;
    margin-top: 15px;
    font-size: 14px;
    line-height: 1.6;
    color: #333;
    border-top: 1px solid #eee;
    padding-top: 15px;
    white-space: pre-line; /* Respecte les sauts de ligne */
  }
  .gi-carte.ouvert {
    background: #fff;
    border-color: #4D6DFF;
    grid-column: 1 / -1; /* La carte s'étend sur toute la largeur quand elle est ouverte */
  }
  .gi-carte.ouvert .gi-definition {
    display: block;
  }
  .gi-carte.ouvert .gi-instruction {
    content: "Cliquer pour fermer";
    color: #999;
  }
</style>
<div class="glossaire-ia-bloc">
    <h2 class="gi-titre">
        Glossaire
    </h2>
    <p>
        <input type="text" id="gi-recherche" placeholder="Rechercher un terme (ex: NIS 2, Open Source, ANSSI...)">
    </p>
    <div class="gi-grille" id="gi-conteneur">
        &nbsp;
    </div>
</div>
<script>
  const mots = [
    {
      t: "Prompt Injection (Injection de prompt)",
      d: "L'injection de prompt est une technique d'attaque qui cible les systèmes d'intelligence artificielle fondés sur des grands modèles de langage (LLM). Elle consiste à manipuler les instructions reçues par un modèle d'IA en insérant dans son entrée des commandes malveillantes, contradictoires ou trompeuses, dans le but de détourner son comportement, de contourner ses garde-fous et de lui faire produire des réponses qu'il ne devrait normalement pas générer (divulgation de données sensibles, génération de contenu malveillant, exécution d'actions non autorisées).\n\nL'injection peut prendre deux formes principales :\n· Directe (ou jailbreaking) : l'attaquant saisit lui-même une instruction malveillante qui écrase ou révèle le prompt système.\n· Indirecte : des instructions malveillantes sont intégrées dans des contenus externes traités par le modèle (pages web, documents), permettant l'attaque sans intervention visible de l'utilisateur final."
    },
    {
      t: "Empoisonnement par les données d'apprentissage (Data Poisoning)",
      d: "L'attaque par empoisonnement vise à modifier le comportement d'un système d'IA en introduisant des données corrompues, biaisées ou malveillantes durant sa phase d'entraînement (ou d'apprentissage). Elle suppose que l'attaquant soit en mesure de soumettre des données destinées à être utilisées pour entraîner le système ciblé. L'objectif est d'altérer subtilement le modèle résultant pour qu'il produise des réponses incorrectes, dangereuses ou manipulées, sans que la modification soit immédiatement détectable."
    },
    {
      t: "IA agentique",
      d: "L'IA agentique désigne une évolution des systèmes d'intelligence artificielle, désormais capables de dépasser la simple exécution d'instructions isolées. Plutôt que de se limiter à répondre à une requête ponctuelle, ces systèmes peuvent poursuivre un objectif de manière autonome : face à une tâche complexe, ils élaborent une stratégie, planifient une succession d'actions et les exécutent de façon cohérente. Ils ont également la capacité d'utiliser des outils externes (API, bases de données, navigation web) et d'interagir avec leur environnement numérique ou physique, parfois en coordonnant plusieurs agents IA subordonnés."
    },
    {
      t: "Patching",
      d: "Un patch (ou correctif, rustine) est une modification logicielle ciblée apportée à un programme, une application ou un système d'exploitation, principalement pour corriger une vulnérabilité de sécurité, un dysfonctionnement ou une erreur. Le patching désigne le processus de déploiement de ces correctifs."
    },
    {
      t: "Shadow AI",
      d: "Le Shadow AI désigne l'utilisation, par des collaborateurs d'une organisation, d'outils ou de systèmes d'intelligence artificielle, notamment d'IA générative, sans approbation, connaissance ou supervision des équipes informatiques, de sécurité ou de conformité. Il s'inscrit dans la continuité du Shadow IT (usage non encadré de logiciels ou ressources informatiques), mais en amplifie considérablement les risques du fait de la nature des modèles d'IA : traitement de données potentiellement sensibles, opacité des pratiques de conservation des données par des tiers, biais ou hallucinations, absence de traçabilité.\n\nLes principaux risques associés sont :\n· Fuites de données : saisie de données confidentielles dans des services externes non contrôlés ;\n· Non-conformité réglementaire (RGPD, AI Act) : traitement non encadré de données personnelles ;\n· Biais et désinformation : sorties non supervisées pouvant induire des décisions erronées ;\n· Perte de gouvernance : impossibilité d'auditer les usages et décisions prises avec l'aide de l'IA."
    },
    {
      t: "INESIA (Institut national pour l'évaluation et la sécurité de l'intelligence artificielle)",
      d: "L'INESIA est le premier institut national de sécurité de l'IA créé au sein de l'Union européenne. Lancé le 3 février 2025, à l'occasion du Sommet pour l'action sur l'IA de Paris, il constitue la réponse française à la Déclaration de Séoul de mai 2024 pour une IA sûre, novatrice et inclusive, dont la France est signataire. Il fédère, sous le co-pilotage du SGDSN et de la DGE, quatre acteurs publics de référence :\n· ANSSI (Agence nationale de la sécurité des systèmes d'information)\n· Inria (Institut national de recherche en sciences et technologies du numérique)\n· LNE (Laboratoire national de métrologie et d'essais)\n· PEReN (Pôle d'expertise de la régulation numérique)\n\nSes missions sont au nombre de trois :\n· Analyser les risques systémiques liés à l'IA dans le champ de la sécurité nationale ;\n· Soutenir la mise en œuvre de la régulation de l'IA, notamment en appui à l'application de l'AI Act ;\n· Évaluer la performance et la fiabilité des modèles d'IA, via des benchmarks, tests standardisés et métriques partagées."
    },
    {
      t: "ANSSI (Agence nationale de la sécurité des systèmes d'information)",
      d: "L'ANSSI est l'autorité nationale française en matière de cybersécurité et de cyberdéfense. Créée par décret en juillet 2009, elle est placée sous l'autorité du Premier ministre via le Secrétariat général de la défense et de la sécurité nationale (SGDSN). L'ANSSI remplit cinq grandes missions : défendre, connaître, partager, accompagner et réguler. L'agence publie des référentiels, guides et recommandations techniques (dont le CyberDico, le guide DevSecOps, SecNumCloud, etc.) et représente la France dans les instances internationales de cybersécurité."
    },
    {
      t: "Capacités d'évaluation des modèles d'IA",
      d: "Les capacités d'évaluation des modèles d'IA désignent l'ensemble des méthodes, outils, métriques et protocoles permettant de mesurer objectivement les performances, la fiabilité, la robustesse, la sécurité et les risques potentiels d'un système d'intelligence artificielle. Ces évaluations peuvent porter sur :\n· La performance et la fiabilité\n· La sécurité\n· La conformité réglementaire\n· Les risques systémiques"
    },
    {
      t: "Référentiels (de cybersécurité)",
      d: "Dans le domaine de la cybersécurité, un référentiel est un document normatif ou de recommandation qui définit un ensemble d'exigences, de règles, de bonnes pratiques ou de critères techniques et organisationnels auxquels un système d'information, un produit ou un prestataire doit satisfaire pour atteindre un niveau de sécurité défini. Les référentiels servent de base à la certification, à la qualification, à l'audit ou à la mise en conformité. En France, l'ANSSI publie et maintient plusieurs référentiels de référence."
    },
    {
      t: "NIS 2 (Directive Network and Information Security 2)",
      d: "La directive NIS 2 (directive (UE) 2022/2555) est un texte législatif de l'Union européenne visant à renforcer la cybersécurité des infrastructures critiques et des services essentiels dans l'ensemble des États membres. Elle impose aux États membres une transposition dans leur droit national et s'applique à des milliers d'entités réparties dans 18 secteurs d'activité, allant des PME aux grandes entreprises du secteur de l'énergie, des transports, de la santé, du numérique, des administrations publiques, etc. Elle introduit une distinction entre entités essentielles et entités importantes, chacune soumise à des obligations proportionnées.\n\nSes principales exigences portent sur :\n· La gestion des risques de cybersécurité (mesures techniques et organisationnelles) ;\n· La notification des incidents significatifs aux autorités compétentes ;\n· La responsabilité renforcée des dirigeants ;\n· Des sanctions administratives dissuasives en cas de non-conformité."
    },
    {
      t: "DevSecOps",
      d: "Le DevSecOps est une méthodologie qui vise à inclure les pratiques de sécurité au sein même du processus de développement et de mise en production des applications, dès la conception et tout au long du cycle de vie logiciel (shift left). Il constitue une évolution du modèle DevOps (réunion des équipes de développement et d'exploitation), en y intégrant la sécurité comme responsabilité partagée plutôt que comme contrôle ajouté en fin de chaîne."
    },
    {
      t: "Modèle open source",
      d: "Le terme open source (ou « code source ouvert ») s'applique à tout logiciel ou modèle dont la licence respecte les critères établis par l'Open Source Initiative (OSI), à savoir : la libre redistribution, l'accès au code source, et la possibilité de créer des travaux dérivés. Mis à la disposition du public, ce code source est généralement le résultat d'une collaboration entre développeurs. Un logiciel open source se distingue d'un logiciel propriétaire (code fermé), dont seul le détenteur des droits peut consulter et modifier le code. Un logiciel open source se distingue aussi d’un logiciel open weight."
    },
    {
      t: "Modèle Open Weight",
      d: "Le terme open weight (ou « à poids ouverts ») s’applique à tout logiciel ou modèle qui rend librement accessibles et téléchargeables ses poids, c'est-à-dire les paramètres numériques appris durant l'entraînement qui définissent le comportement du modèle, sans pour autant rendre accessibles les données d'entraînement, le code complet de conception ni le processus d'entraînement détaillé."
    },
    {
      t: "Modèle propriétaire",
      d: "Un modèle propriétaire (ou modèle fermé, closed-source) est un système d'intelligence artificielle dont l'architecture, les poids (paramètres entraînés), les données d'entraînement et le code source restent la propriété exclusive de l'organisation qui l'a développé et ne sont pas rendus publics. L'utilisateur ne peut ni inspecter le modèle, ni le reproduire, ni l'adapter librement."
    }
  ];
  const conteneur = document.getElementById('gi-conteneur');
  const champRecherche = document.getElementById('gi-recherche');
  function afficherMots(filtre = '') {
    conteneur.innerHTML = '';
    mots.forEach(item => {
      if (item.t.toLowerCase().includes(filtre.toLowerCase()) || item.d.toLowerCase().includes(filtre.toLowerCase())) {
        const div = document.createElement('div');
        div.className = 'gi-carte';
        div.innerHTML = `
          
<div class="gi-terme">
        ${item.t}
</div>
          
<div class="gi-instruction">
        Voir la définition
</div>
          
<div class="gi-definition">
        ${item.d}
</div>
        `;
        div.onclick = () => {
          // Ferme les autres cartes si nécessaire (optionnel)
          // div.classList.toggle('ouvert');
          
          // Comportement : Ouvrir/Fermer
          const estOuvert = div.classList.contains('ouvert');
          document.querySelectorAll('.gi-carte').forEach(c => c.classList.remove('ouvert'));
          if (!estOuvert) div.classList.add('ouvert');
        };
        conteneur.appendChild(div);
      }
    });
  }
  champRecherche.oninput = (e) => afficherMots(e.target.value);
  afficherMots(); 
</script>