Matrice de gravité des incidents GenAI : Modèle de notation personnalisé pour la réponse en cybersécurité

Incident de Technologie de l'Information (IT) :

Un incident IT est toute interruption non planifiée ou réduction de la qualité d'un service IT. Les incidents vont des problèmes mineurs, comme une application lente, aux perturbations critiques, y compris les pannes de serveur. La Gestion des Incidents (IM) vise à gérer ces incidents efficacement, garantissant que les services IT sont restaurés rapidement.

Cyber Incident :

Un événement qui peut compromettre la confidentialité, l'intégrité ou la disponibilité d'une information ou d'un système d'information, ou qui constitue une menace pour les politiques ou procédures de sécurité.

Réponse aux Cyber Incidents et Niveaux de Gravité :

La Réponse aux Incidents (IR) est un processus organisé qu'une organisation suit pour se remettre d'un incident de sécurité. L'objectif principal d'un programme de Réponse aux Incidents de cybersécurité est de limiter les dommages et de réduire le coût et le temps de récupération d'une violation de sécurité, assurant la continuité des activités et préservant l'intégrité des systèmes et des données.

\ Les incidents doivent avoir différents niveaux de gravité car tous les événements n'ont pas le même impact sur l'entreprise. L'attribution d'un niveau de gravité est une étape critique qui dicte la vitesse et l'étendue des ressources consacrées à la réponse.

Incident GenAI et Matrice de Gravité :

L'utilisation générale des méthodes d'Intelligence Artificielle (IA), y compris l'IA Générative (GenAI) et les grands modèles de langage (LLMs) pour les activités personnelles et professionnelles, est devenue possible grâce aux avancées technologiques dans les systèmes Generative Pre-trained Transformer (GPT). Les applications GenAI ont créé de nouveaux risques de sécurité, qui obligent les équipes de sécurité de l'information à étendre leurs responsabilités de protection à ces systèmes.

\ Les types d'incidents possibles incluent des chatbots induisant les clients en erreur, des données divulguées par des Agents d'IA, et bien d'autres. Le Centre des Opérations de Sécurité (SOC) et les équipes de Réponse aux Incidents (IR) nécessitent une matrice de gravité appliquée pour les incidents d'IA afin de créer un système standardisé qui détermine les effets réels et les niveaux de gravité des événements liés à l'IA.

\ L'outil décrit dans l'article fonctionne pour déterminer les niveaux de gravité des incidents pour une distribution appropriée des ressources IR. Le nouveau système intègre des données numériques avec des facteurs d'évaluation humaine en utilisant une méthode d'évaluation basée sur une matrice.

\ La Matrice contient cinq 'Dimensions d'Impact' qui évaluent les effets sur la Fonctionnalité de l'IA, l'Intégrité des Données, la Disponibilité Opérationnelle, la Réputation et les efforts de Remédiation.

\ L'outil permet l'évaluation de chaque dimension à travers un système de notation, qui peut avoir des scores Bas (1), Moyen (2), Haut (3) ou Critique (4).

Facteurs à Considérer Avant la Déclaration d'Incident :

Une évaluation préliminaire doit avoir lieu avant de déclarer un incident d'IA car elle aide à établir le besoin de ressources substantielles et de procédures de triage immédiates. Les systèmes d'IA possèdent des caractéristiques distinctes qui les distinguent de tous les autres systèmes.

\ L'évaluation doit identifier quels systèmes d'IA ont participé à l'incident et déterminer leur importance pour la sécurité opérationnelle et les opérations commerciales. Quelques exemples de systèmes sont les chatbots, les modèles de vision par ordinateur, les systèmes de recommandation, les agents personnalisés, etc. L'évaluation de l'impact fonctionnel nécessite que les chercheurs analysent comment la conception opérationnelle change lorsque les systèmes d'IA rencontrent des attaques adverses.

\ Le système montre différents niveaux de dysfonctionnement, qui incluent des problèmes de performance mineurs affectant la précision et la vitesse, et des problèmes majeurs qui entraînent des pannes système et des résultats dangereux ou injustes. Certains problèmes de performance peuvent concerner une précision réduite et une latence accrue dans les réponses du modèle.

\ Le système nécessite l'identification de deux choses selon le cadre ATLAS : la nature de l'anomalie détectée et si elle provient d'une attaque adverse ou d'un dysfonctionnement du système. MITRE ATLAS (MITRE, 2025) permet aux utilisateurs d'identifier des techniques d'attaque particulières (par exemple, Injection de Prompt LLM, Empoisonnement des Données d'Entraînement, Déni de Service d'IA), qui montrent à la fois les objectifs d'attaque et leur classification correspondante.

\ L'évaluation comprend la vérification de l'intégrité et de la confidentialité des données en vérifiant toute compromission des données d'entraînement ou de validation et des informations sensibles (PII, PHI, IP du modèle propriétaire) et l'exfiltration. Le processus d'évaluation doit déterminer dans quelle mesure la sortie du système d'IA affecte les éléments opérationnels et systémiques du service commercial qui dépendent de ses résultats. Une détermination doit être faite sur l'étendue du danger physique ainsi que de la perte financière pour l'entreprise.

Calcul de la Gravité de l'Incident Déclaré

L'évaluation des incidents déclarés nécessite des méthodes standardisées pour établir des procédures de réponse appropriées. L'évaluation de la gravité de l'incident nécessite à la fois des points de données numériques et un jugement humain à travers des systèmes basés sur des matrices pour obtenir une évaluation précise. Le niveau de gravité de l'incident atteint sa valeur maximale à partir de n'importe quelle catégorie d'impact pertinente, ce qui permet aux éléments graves d'augmenter l'ensemble de l'incident à un statut de priorité plus élevé.

Le système de notation pour chaque dimension pertinente (A-E) va de 1 à 4 pour déterminer la gravité de l'incident pour les organisations. La note de gravité de l'incident devient le score maximum de toutes les dimensions évaluées, ce qui détermine le niveau de gravité complet. L'incident peut atteindre le statut 'Critique' si le score d'Impact Fonctionnel est '2', mais l'Impact sur les Données atteint '4' tandis que les autres dimensions varient de '1' à '2'. Le processus d'évaluation structuré permet aux organisations d'obtenir des résultats standardisés tout en accélérant le processus d'évaluation.

\ Les organisations doivent choisir entre la mise en œuvre de ce cadre tel quel ou la création de leur propre version qui correspond à leurs systèmes de calcul existants pour établir les niveaux de gravité des incidents d'IA.

Prioriser les Risques Basés sur la Gravité de l'Incident d'IA :

Le calcul du niveau de gravité aide les équipes de réponse aux incidents à décider quels risques nécessitent leur attention immédiate lors de la planification de leur réponse et de l'allocation des ressources. La réponse aux incidents graves exige un déploiement immédiat d'une équipe spécialisée composée d'experts en Cybersécurité, d'Ingénieurs IA/ML, de Data Scientists, de professionnels juridiques et de représentants des relations publiques. La réponse aux incidents de gravité moindre nécessite moins de personnel pour les gérer.

\ Les incidents critiques nécessitent une notification immédiate des dirigeants et des membres du conseil d'administration, de l'équipe juridique, de l'organisme de réglementation et des parties prenantes publiques, mais les incidents de faible gravité ne devraient recevoir qu'un partage d'informations interne limité. Les arrêts de système, ainsi que les déconnexions API, fonctionnent comme des mécanismes de première défense qui empêchent les incidents de haute gravité de se propager. Le processus de confinement pour les incidents de gravité moindre doit empêcher que des perturbations opérationnelles majeures ne se produisent.