Riesgos de la IA generativa y ciberseguridad: seguridad LLM

Este curso utiliza inteligencia artificial.

Qué esperar: Unas 5 horas de vídeo. Calcula 1 hora para instalar las herramientas del laboratorio (Ollama y un modelo local) y después entre 9 y 12 horas para completar los 14 laboratorios y sus tareas. Los 14 laboratorios funcionan en un único archivo en tu propio ordenador, con un modelo Llama local y gratuito a través de Ollama, así que no necesitas clave de API ni cuenta de pago. La interfaz del laboratorio, los prompts de ataque que se escriben y las respuestas del modelo se mantienen en inglés.

La IA generativa llegó a producción más rápido que las prácticas de seguridad capaces de protegerla. Inyección de prompts, jailbreaking, envenenamiento de datos, alucinaciones explotadas: los ataques contra los grandes modelos de lenguaje no se parecen a los que conocen los equipos de seguridad. Este curso te enseña a entenderlos, a ejecutarlos tú mismo en un entorno seguro y a construir las defensas que los detienen.

Todo el curso sigue a una empresa ficticia, NovaStar AI, y sus tres productos: NovaAssist, un chatbot de atención al cliente; NovaCode, un asistente de programación, y NovaComply, una herramienta de documentación regulatoria. Junto a su CISO, Alex Rivera, y su equipo, analizamos cada incidente, reproducimos el ataque en el laboratorio y aplicamos el control que lo habría evitado.

A lo largo de nueve secciones vamos a:

• Mapear la superficie de ataque de una aplicación LLM con el OWASP Top 10 para LLM y MITRE ATLAS
• Lanzar inyecciones de prompts directas e indirectas y jailbreaks contra un modelo local
• Tratar el envenenamiento de datos, el sesgo, el SSRF, el agotamiento de recursos y las alucinaciones como amenazas
• Construir una defensa en profundidad: validación de entradas, barreras de protección, filtrado de salidas, aislamiento y monitorización
• Integrar la seguridad en el ciclo de desarrollo y dirigir ejercicios de red team
• Dominar el Reglamento Europeo de Inteligencia Artificial, el NIST AI RMF, la ISO/IEC 42001, las auditorías y la propiedad intelectual
• Anticipar las amenazas de la IA agéntica, de la IA contra la IA y de la computación cuántica

Cada sección termina con un cuestionario, y el curso culmina con un ejercicio completo de red team que pone en juego todo lo aprendido. Terminarás con un método concreto para evaluar, atacar y proteger los sistemas de IA generativa de tu organización.