AUDITORÍA DE IA

Auditoría de IA y machine learning

Revisamos los modelos, asistentes y agentes de IA de su empresa: seguridad, datos personales, sesgo y cumplimiento, con un informe priorizado.

— Auditoría de IA —

IA que se puede auditar

Una auditoría de IA verifica que los sistemas de inteligencia artificial que su empresa construye o usa funcionan como deben, no exponen datos, no discriminan y cumplen las reglas que le aplican. En T.I. RESCUE la hacemos con el mismo rigor de nuestras auditorías de ciberseguridad e ISO: alcance claro, pruebas técnicas, evidencias y un plan de cierre priorizado.

— Alcance —

¿Qué revisamos?

Inventario de IA

Qué modelos, asistentes, agentes y funciones de IA usa la empresa, incluida la IA en la sombra.

Seguridad

Inyección de instrucciones (prompt injection), fuga de datos, agentes con permisos de más y abuso de APIs, con base en OWASP Top 10 for LLM.

Datos personales

Autorización, finalidad, transferencias internacionales y proveedores frente a la Ley 1581 de 2012.

Sesgo y calidad

Exactitud, equidad entre grupos, deriva del modelo y calidad y procedencia de los datos.

Proveedores

Contratos de los servicios de IA: uso de sus datos para entrenar, país de procesamiento y responsabilidades.

Gobierno

Política de IA, responsables, evaluación de impacto y monitoreo según ISO/IEC 42001.

— Entregables —

¿Qué recibe?

Informe de hallazgos

Cada riesgo con su evidencia, su prioridad y la recomendación para cerrarlo.

Pruebas técnicas

Pruebas controladas contra sus asistentes y agentes: intentos de extraer datos, saltar reglas o ejecutar acciones no autorizadas.

Plan de cierre

Qué corregir primero, quién lo hace y cómo verificarlo.

Verificación

Revisamos de nuevo los hallazgos críticos después de que los corrija.

— Metodología —

Marcos de referencia

ISO/IEC 42001

La norma certificable para sistemas de gestión de IA: requisitos y 38 controles del Anexo A.

NIST AI RMF

El marco de gestión de riesgos de IA de EE. UU.: gobernar, mapear, medir y gestionar.

OWASP Top 10 for LLM

Los riesgos de seguridad más comunes en aplicaciones con modelos de lenguaje.

Ley 1581 y leyes de IA

Datos personales en Colombia y, si vende o usa IA fuera del país, la Ley de IA de la UE o leyes estatales de Estados Unidos como la de Colorado.

— Gratis —

Herramientas gratuitas de gobernanza de IA

Autoevaluación ISO 42001

22 requisitos con puntaje por dominio.

Checklist de IA en la sombra

¿Su equipo usa IA sin control?

Generador de política de uso de IA

Su política de uso aceptable en 2 minutos.

Preguntas frecuentes sobre la auditoría de IA

¿Qué es una auditoría de IA?

Una evaluación independiente de los sistemas de inteligencia artificial de una empresa: cómo se gobiernan, qué datos usan, qué tan seguros son frente a ataques y si sus resultados son exactos y justos.

¿Auditan modelos de machine learning propios?

Sí. Revisamos los datos de entrenamiento, la validación, el monitoreo en producción y la seguridad del modelo y de su API, además del proceso que lo gobierna.

¿Y si solo usamos ChatGPT, Copilot u otro asistente?

También aplica: la mayor parte del riesgo está en qué datos se ingresan, con qué cuentas y bajo qué contrato. Empiece con el checklist de IA en la sombra.

¿Incluye pruebas de penetración a la IA?

Sí, cuando el alcance lo incluye: probamos sus asistentes y agentes como lo haría un atacante. Para el resto de su infraestructura está nuestro pentest.

¿Sirve para certificarse en ISO 42001?

La auditoría identifica las brechas frente a la norma. Si quiere prepararse para la certificación, vea nuestro servicio de gobernanza de IA ISO 42001.

¿Cuánto cuesta?

Depende de cuántos sistemas de IA entren en el alcance y de si incluye pruebas técnicas. Solicite una cotización.

¿Sabe qué IA usa su empresa y con qué datos?

T.I. RESCUE es una empresa colombiana de ciberseguridad con sede en Medellín.

Contactar