Matriz de Gravedad de Incidentes de GenAI: Modelo de Puntuación Personalizado para Respuesta de Ciberseguridad

Incidente de Tecnología de la Información (TI):

Un incidente de TI es cualquier interrupción no planificada o reducción en la calidad de un servicio de TI. Los incidentes van desde problemas menores, como una aplicación lenta, hasta interrupciones críticas, incluidas las caídas de servidores. La Gestión de Incidentes (GI) tiene como objetivo manejar estos incidentes de manera efectiva, asegurando que los servicios de TI se restauren rápidamente.

Incidente Cibernético:

Una ocurrencia que puede poner en peligro la confidencialidad, integridad o disponibilidad de la información o un sistema de información, o constituye una amenaza para las políticas o procedimientos de seguridad.

Respuesta a Incidentes Cibernéticos y Niveles de Gravedad:

La Respuesta a Incidentes (RI) es un proceso organizado que sigue una organización para recuperarse de un incidente de seguridad. El objetivo principal de un programa de Respuesta a Incidentes de ciberseguridad es limitar el daño y reducir el costo y el tiempo de recuperación de una brecha de seguridad, garantizando la continuidad del negocio y preservando la integridad de los sistemas y datos.

\ Los incidentes deben tener diferentes niveles de gravedad porque no todos los eventos tienen el mismo impacto en el negocio. Asignar un nivel de gravedad es un paso crítico que dicta la velocidad y el alcance de los recursos dedicados a la respuesta.

Incidente de IA Generativa y Matriz de Gravedad:

El uso general de métodos de Inteligencia Artificial (IA), incluida la IA Generativa (GenAI) y los modelos de lenguaje grandes (LLMs) para actividades personales y profesionales, se hizo posible debido a los avances tecnológicos en los sistemas Generative Pre-trained Transformer (GPT). Las aplicaciones de GenAI han creado nuevos riesgos de seguridad, que requieren que los equipos de seguridad de la información extiendan sus responsabilidades de protección a estos sistemas.

\ Los tipos de incidentes posibles incluyen chatbots que engañan a los clientes, datos filtrados por Agentes de IA y muchos más. El Centro de Operaciones de Seguridad (SOC) y los equipos de Respuesta a Incidentes (RI) requieren una matriz de gravedad aplicada para incidentes de IA para crear un sistema estandarizado que determine los efectos reales y los niveles de gravedad de los eventos relacionados con la IA.

\ La herramienta descrita en el artículo funciona para determinar los niveles de gravedad de los incidentes para una distribución adecuada de recursos de RI. El nuevo sistema integra datos numéricos con factores de evaluación humana mediante el uso de un método de evaluación basado en matrices.

\ La Matriz contiene cinco 'Dimensiones de Impacto' que evalúan los efectos en la Funcionalidad de IA, Integridad de Datos, Disponibilidad Operativa, Reputación y esfuerzos de Remediación.

\ La herramienta permite la evaluación de cada dimensión a través de un sistema de puntuación, que puede tener puntuaciones Bajas (1), Medias (2), Altas (3) o Críticas (4).

Factores a Considerar Antes de la Declaración de Incidentes:

Es necesario realizar una evaluación preliminar antes de declarar un incidente de IA porque ayuda a establecer la necesidad de recursos sustanciales y procedimientos de triaje inmediatos. Los sistemas de IA poseen características distintas que los distinguen de todos los demás sistemas.

\ La evaluación debe identificar qué sistemas de IA participaron en el incidente y determinar su importancia para la seguridad operativa y las operaciones comerciales. Algunos ejemplos de sistemas son chatbots, modelos de visión por computadora, sistemas de recomendación, agentes personalizados, etc. La evaluación del impacto funcional requiere que los investigadores analicen cómo cambia el diseño operativo cuando los sistemas de IA encuentran ataques adversarios.

\ El sistema muestra diferentes niveles de mal funcionamiento, que incluyen problemas de rendimiento menores que afectan la precisión y la velocidad, y problemas mayores que resultan en averías del sistema y resultados peligrosos o injustos. Algunos problemas de rendimiento pueden estar relacionados con la reducción de la precisión y el aumento de la latencia en las respuestas del modelo.

\ El sistema requiere la identificación de dos cosas según el marco ATLAS: la naturaleza de la anomalía detectada y si proviene de un ataque adversario o un mal funcionamiento del sistema. MITRE ATLAS (MITRE, 2025) permite a los usuarios identificar técnicas de ataque particulares (por ejemplo, Inyección de Prompt LLM, Datos de Entrenamiento Envenenados, Denegación de Servicio de IA), que muestran tanto los objetivos del ataque como su clasificación correspondiente.

\ La evaluación incluye la verificación de la integridad y confidencialidad de los datos mediante la comprobación de cualquier compromiso de los datos de entrenamiento o validación e información sensible (PII, PHI, IP del modelo propietario) y exfiltración. El proceso de evaluación debe determinar cuánto afecta la salida del sistema de IA a los elementos operativos y sistémicos del servicio empresarial que dependen de sus resultados. Se debe determinar el alcance del peligro físico así como la pérdida financiera para el negocio.

Cálculo de la Gravedad del Incidente Declarado

La evaluación de incidentes declarados necesita métodos estandarizados para establecer procedimientos de respuesta adecuados. La evaluación de la gravedad del incidente requiere tanto puntos de datos numéricos como juicio humano a través de sistemas basados en matrices para lograr una evaluación precisa. El nivel de gravedad del incidente alcanza su valor máximo de cualquier categoría de impacto relevante, lo que permite que elementos graves aumenten todo el incidente a un estado de mayor prioridad.

El sistema de puntuación para cada dimensión relevante (A-E) va de 1 a 4 para determinar la gravedad del incidente para las organizaciones. La calificación de gravedad del incidente se convierte en la puntuación máxima de todas las dimensiones evaluadas, lo que determina el nivel de gravedad completo. El incidente puede alcanzar el estado 'Crítico' si la puntuación de Impacto Funcional es '2', pero el Impacto de Datos alcanza '4' mientras que otras dimensiones varían de '1' a '2'. El proceso de evaluación estructurado permite a las organizaciones obtener resultados estandarizados mientras aceleran el proceso de evaluación.

\ Las organizaciones necesitan elegir entre implementar este marco tal como está o crear su propia versión que coincida con sus sistemas de cálculo existentes para establecer niveles de gravedad de Incidentes de IA.

Priorizar Riesgos Basados en la Gravedad del Incidente de IA:

El cálculo del nivel de gravedad ayuda a los equipos de respuesta a incidentes a decidir qué riesgos necesitan su atención inmediata al planificar su respuesta y asignar recursos. La respuesta a incidentes graves exige un despliegue inmediato de un equipo especializado compuesto por expertos en Ciberseguridad, Ingenieros de IA/ML, Científicos de Datos, profesionales Legales y representantes de Relaciones Públicas. La respuesta a incidentes con niveles de gravedad más bajos necesita menos personal para gestionarlos.

\ Los incidentes críticos necesitan notificación inmediata a ejecutivos y miembros de la junta, equipo legal, organismo regulador y partes interesadas públicas, pero los incidentes de baja gravedad solo deben recibir un intercambio de información interna limitado. Los cierres de sistemas, junto con las desconexiones de API, funcionan como mecanismos de primera defensa que impiden que los incidentes de alta gravedad se propaguen. El proceso de contención para incidentes de menor gravedad debe evitar que ocurran interrupciones operativas importantes.