PANews informó el 24 de octubre que, según simonwillison.net, una investigación ha revelado un riesgo sistémico de "inyección indirecta de prompt" en navegadores de IA. El equipo de Brave demostró que el navegador Comet de Perplexity podría ser engañado para acceder automáticamente a detalles de cuentas y extraer datos a través de enlaces externos mediante comandos invisibles incrustados en capturas de pantalla. Fellou, sin embargo, fue aún más grave, con texto de página engañándolo para abrir Gmail y enviar los encabezados de los correos electrónicos más recientes a un sitio externo. Ambos casos implicaron ejecución sin confirmación del usuario y generaron preocupaciones sobre la seguridad del correo electrónico y financiera. Brave no ha aclarado si estas vulnerabilidades han sido abordadas por el proveedor. El Director de Seguridad de la Información de OpenAI, Dane Stuckey, publicó un extenso artículo revelando la protección del Agente de IA Atlas de ChatGPT contra la inyección de prompt: mediante pruebas de equipo rojo, recompensas de entrenamiento para ignorar comandos maliciosos, barreras de seguridad superpuestas y bloqueo de detección de ataques; propuso "defensa en profundidad" y reconoció que la inyección de prompt sigue siendo un problema de vanguardia sin resolver.PANews informó el 24 de octubre que, según simonwillison.net, una investigación ha revelado un riesgo sistémico de "inyección indirecta de prompt" en navegadores de IA. El equipo de Brave demostró que el navegador Comet de Perplexity podría ser engañado para acceder automáticamente a detalles de cuentas y extraer datos a través de enlaces externos mediante comandos invisibles incrustados en capturas de pantalla. Fellou, sin embargo, fue aún más grave, con texto de página engañándolo para abrir Gmail y enviar los encabezados de los correos electrónicos más recientes a un sitio externo. Ambos casos implicaron ejecución sin confirmación del usuario y generaron preocupaciones sobre la seguridad del correo electrónico y financiera. Brave no ha aclarado si estas vulnerabilidades han sido abordadas por el proveedor. El Director de Seguridad de la Información de OpenAI, Dane Stuckey, publicó un extenso artículo revelando la protección del Agente de IA Atlas de ChatGPT contra la inyección de prompt: mediante pruebas de equipo rojo, recompensas de entrenamiento para ignorar comandos maliciosos, barreras de seguridad superpuestas y bloqueo de detección de ataques; propuso "defensa en profundidad" y reconoció que la inyección de prompt sigue siendo un problema de vanguardia sin resolver.