Ciberseguridad en IA
La seguridad en IA es un concepto que no parece tan fácil de aplicar.
Desde Cloudflare creando honeypots para engañar a la avalancha de bots de IA, hasta la filtración de la base de datos de un generador de imágenes coreano con contenido pedófilo, pasando por la presidenta de Signal denunciando las amenazas a la privacidad de los agentes de IA.
En los últimos meses he podido hacerme una idea:
Errores destacados en vibe coding. Inyecciones de prompt y leaks de prompts del sistema para aburrir. Y muchos casos de propiedad intelectual. Los hackers que conozco están más preocupados por construir que por destruir este nuevo mundo.
Mientras, crecen las regulaciones, políticas, guías, reglamentos, estándares, plantillas, sandboxes, manuales en pro de la seguridad de la IA.
En el otro lado, el uso de IA en herramientas para combatir el phishing, triaje de alertas, gestión de parches, detección de malware.. Herramientas de las que los propios expertos dicen no fiarse mucho.
Definitivamente, este campo de la IA y la ciberseguridad aún está por explorar y tengo mucha curiosidad por ver cómo evoluciona.
Seguiremos aquí estudiando. Atentos.