¿Cómo revisar la seguridad del código de una aplicación que usa un LLM?
Hay que separar dos alcances. Uno es la revisión del código de la aplicación: credenciales expuestas, entradas que llegan sin filtro al modelo, respuestas del modelo que se usan sin validar. El…
Qué dice OWASP
El proyecto OWASP GenAI Security publicó en noviembre de 2024 el Top 10 de riesgos para aplicaciones con LLM (edición 2025). Los que más se relacionan con el código de tu aplicación son:
- LLM01 · Inyección de prompts: texto del usuario o de un documento que cambia lo que hace el modelo.
- LLM02 · Divulgación de información sensible: datos personales, credenciales o secretos que llegan al modelo o a sus respuestas.
- LLM05 · Manejo inadecuado de la salida: respuestas del modelo que se ejecutan o se pasan a otros sistemas sin validarlas.
- LLM06 · Agencia excesiva: el modelo puede hacer más de lo que debería por permisos demasiado amplios.
La lista completa también incluye cadena de suministro, envenenamiento de datos y modelos, filtración del prompt de sistema, debilidades en vectores y embeddings, desinformación y consumo sin límites. Fuente: OWASP GenAI Security Project.
Qué hace ADEVA DevSecOps
ADEVA DevSecOps es la línea de seguridad de ADEVA, la suite de herramientas de IA de Devco para desarrollo, calidad y seguridad. Reúne cinco herramientas:
- Búsqueda de secretos: detecta credenciales en el repositorio.
- Revisión de código con LLM: busca riesgos propios del código con IA, siguiendo el OWASP Top 10 para LLM.
- Respuesta a incidentes: arma un reporte de siete secciones.
- Veredicto de seguridad: aprobado, advertencia o bloqueado, antes de salir a producción.
- Arquitectura Terraform: herramienta para la infraestructura como código.
Cómo trabaja, por diseño:
- Un bloqueo solo lo revierte una persona, y la decisión queda registrada.
- Ninguna remediación se ejecuta sola: ADEVA recomienda; tu equipo decide.
- Lo que no pudo revisar lo declara como «no evaluado»: nunca lo omite en silencio.
- Tu código no sale de tu entorno. El servidor de ADEVA no tiene una IA propia: entrega la plantilla experta y el asistente de IA de tu equipo redacta el resultado, con tus permisos. Cada resultado queda como borrador en tu repositorio hasta que una persona lo aprueba.
- Devco opera bajo la certificación ISO 27001:2022.
Qué no hace
ADEVA DevSecOps no reemplaza un pentest ni las pruebas adversariales de comportamiento sobre tu aplicación en ejecución. Se complementa con ellos: revisa el código de forma repetible en cada cambio, antes de que salga a producción.
Cómo empezar
- Lista qué partes de tu aplicación llaman a un modelo y qué datos le envían.
- Revisa con qué permisos actúa el modelo y redúcelos al mínimo.
- Pon en tu flujo de entrega un control que pueda bloquear lo que no cumple.
- Decide quién opera la herramienta: tu equipo o el de Devco.
Preguntas frecuentes
¿Un veredicto «aprobado» significa que no hay riesgos?
No. Significa que, en lo que se evaluó, no se encontró algo que bloquee. Lo no evaluado se declara aparte.
¿Mi código sale de mi entorno?
No. ADEVA entrega metodología y contexto al asistente de IA de tu equipo; el servidor no guarda tu código.
¿Sirve si mi aplicación no usa IA pero mi equipo escribe código con IA?
Sí. ADEVA DevSecOps también revisa los riesgos propios del código escrito con apoyo de IA.
¿Reemplaza un pentest?
No. El pentest prueba la aplicación en ejecución; ADEVA revisa el código antes de salir a producción.
Más respuestas
- ¿Cómo gobernar la calidad del software cuando tu equipo usa agentes de IA?
- ¿Qué herramientas MCP existen para QA, code review o DevSecOps?
- ¿Cómo automatizar las pruebas de software con IA?
Siguiente paso: Conoce ADEVA · DevSecOps con IA · Agenda un diagnóstico
¿Quieres ver esto sobre tu proyecto?
Agenda un diagnóstico y te mostramos por dónde empezar.