Riesgos de la inteligencia artificial para empresas: los 10 que debe gestionar en 2026

Tendencias Tecnológicas
31 Ene 2025, 10:33 a.m. Por Juan Carlos Hernandez 💬 0
Riesgos de la inteligencia artificial para empresas: los 10 que debe gestionar en 2026

Los principales riesgos de la inteligencia artificial para una empresa son la fuga de datos personales y confidenciales en los sistemas de IA, su uso como herramienta de ataque (phishing, deepfakes, malware), el sesgo en las decisiones automatizadas, la dependencia de proveedores y el incumplimiento de normas como la Ley 1581 o ISO 42001. Se mitigan con políticas de uso, control de accesos, auditorías y capacitación.

Cuando se habla de los riesgos de la inteligencia artificial suele pensarse en robots que quitan empleos o en escenarios de ciencia ficción. Para una empresa, los riesgos reales son más concretos y más cercanos: un empleado que pega la base de clientes en ChatGPT, una llamada con la voz clonada del gerente que aprueba una transferencia, un modelo de crédito que discrimina sin que nadie lo note, o una multa de la Superintendencia por tratar datos personales con IA sin autorización. Esta guía recorre los 10 riesgos que sí puede gestionar, qué exige la ley en cada país de Latinoamérica y por dónde empezar.

Herramienta gratuita: Clasificador de riesgo de IA. Vea si su caso de uso es de alto riesgo según la Ley de IA de la UE o la ley de Colorado y qué le exigiría.

1. Fuga de datos en asistentes de IA (ChatGPT, Copilot, Gemini)

Es el riesgo más frecuente y el más barato de causar. Alguien del equipo pega un contrato, una nómina o la lista de clientes en un asistente para «que lo resuma», y esa información sale de la empresa hacia un proveedor cuyo contrato nadie leyó. En las versiones gratuitas, además, el texto puede usarse para entrenar el modelo. Cómo gestionarlo: una política de uso de IA de una página (qué se puede pegar y qué no), versiones empresariales que no entrenan con sus datos, y controles de fuga de datos (DLP) en el navegador. Lea seguridad de IA en empresas: así ocurre una fuga de datos y cree su política con el generador de política de uso de IA.

2. IA en la sombra: herramientas que nadie aprobó

Si su empresa no ha definido qué IA se puede usar, su equipo ya la está usando: extensiones del navegador, transcriptores de reuniones, generadores de presentaciones, bots en WhatsApp. Cada una recibe datos y nadie sabe cuáles. Cómo gestionarlo: un inventario de las herramientas de IA en uso (empiece por el checklist de IA en la sombra), un canal para aprobar nuevas y alternativas oficiales para las más pedidas; prohibir todo solo las esconde.

3. Deepfakes y fraude al gerente

Con un minuto de audio público, la voz de su gerente se clona. El fraude típico es una llamada o una nota de voz urgente a contabilidad para aprobar un pago o cambiar la cuenta de un proveedor. Según el informe Cost of a Data Breach 2026 de IBM, una de cada cuatro brechas maliciosas ya involucró IA del lado del atacante, y el 45 % de ellas fueron suplantaciones con deepfakes; Kaspersky estima que el 70 % de los latinoamericanos no sabe qué es un deepfake. Cómo gestionarlo: ningún pago ni cambio de cuenta se aprueba por un solo canal (se devuelve la llamada a un número conocido), una palabra clave interna para urgencias de directivos y simulaciones que incluyan voz, no solo correo. Vea vishing y deepfakes: el fraude por voz.

4. Phishing hiperpersonalizado

Detectar el phishing por las faltas de ortografía ya no funciona. Con IA, el atacante escribe correos perfectos en español colombiano, con el nombre del proveedor real y el proyecto en curso, sacados de LinkedIn y de la propia web de la empresa, en segundos y por miles. Cómo gestionarlo: autenticación multifactor resistente al phishing, filtros de correo y, sobre todo, un equipo entrenado con casos reales. Mida el suyo con el simulador de phishing y conozca el programa de concientización en ciberseguridad.

5. Agentes de IA con permisos de más e inyección de instrucciones

Un asistente que solo responde preguntas hace poco daño. Un agente que lee el correo, consulta el CRM y ejecuta pagos puede hacer mucho, y hará lo que le diga un texto malicioso escondido en un correo, una página o un documento: eso es la inyección de instrucciones (prompt injection), el riesgo número uno del OWASP Top 10 para aplicaciones con modelos de lenguaje. Cómo gestionarlo: cada agente con una identidad propia, los mínimos permisos, acciones sensibles con aprobación humana y registro de todo lo que hace. Profundice en seguridad en agentes de IA.

6. Sesgo y decisiones automatizadas

Un modelo que aprueba créditos, filtra hojas de vida o prioriza cobranzas aprende de datos históricos, y los datos históricos traen sesgos. El resultado es discriminación por género, edad, zona o estrato que nadie programó y nadie revisa. En Colombia, las personas tienen derecho a conocer y controvertir esas decisiones (habeas data); en Chile, la Ley 21.719 da derecho a oponerse a decisiones automatizadas con efectos significativos. Cómo gestionarlo: pruebas de equidad antes de poner el modelo en producción, revisión humana de las decisiones negativas y una auditoría de IA periódica.

7. Datos personales y cumplimiento

Entrenar o alimentar una IA con datos personales es un tratamiento de datos, con todas sus obligaciones. En Colombia la Circular Externa 002 de 2024 de la SIC exige demostrar que el uso es proporcional, evaluar el impacto en la privacidad cuando el riesgo es alto y aplicar privacidad desde el diseño; las multas de la Ley 1581 llegan a 2.000 salarios mínimos. Si vende a Europa o usa IA sobre ciudadanos europeos, el Reglamento de IA de la UE ya exige transparencia desde agosto de 2026, y las obligaciones de los sistemas de alto riesgo llegan en diciembre de 2027 (Reglamento (UE) 2026/1744). Cómo gestionarlo: autorización y finalidad claras, evaluación de impacto documentada y clasificación del riesgo de cada caso de uso: pruebe el clasificador de riesgo de IA y lea IA y datos personales en Colombia.

8. Proveedores de IA y dependencia

La mayoría de las empresas no construye IA: la compra dentro de su CRM, su ERP, su software de nómina o de atención al cliente. El riesgo está en el contrato que no se leyó: si el proveedor entrena con sus datos, en qué país los procesa, qué pasa si sube el precio, cambia el modelo o cierra. Cómo gestionarlo: cláusulas de no entrenamiento y ubicación de los datos, derecho a auditar, plan de salida y, para los sistemas críticos, no depender de un solo proveedor.

9. Código generado por IA con vulnerabilidades

Los asistentes de programación aceleran el desarrollo y también introducen fallas conocidas, dependencias que no existen (que un atacante registra con ese nombre) y secretos en el código. La guía de INCIBE de junio de 2026 pide supervisar todo el código generado por IA como si lo hubiera escrito un desarrollador nuevo. Cómo gestionarlo: revisión humana, análisis estático y de dependencias en el flujo de integración, y un pentest antes de poner en producción lo que la IA ayudó a construir.

10. Errores, alucinaciones y falta de supervisión humana

Un asistente que inventa una política de devoluciones ante un cliente, un resumen que omite la cláusula importante o una decisión tomada sin que nadie la revise terminan en pérdidas y en reputación dañada. Cómo gestionarlo: definir en qué decisiones la IA propone y una persona decide, mostrar las fuentes, registrar las respuestas y medir la tasa de error como se mide cualquier otro proceso.

¿Qué exige la regulación de IA en cada país?

Colombia: no hay una ley integral de inteligencia artificial y hay proyectos de ley en el Congreso; sí existe el agravante penal por suplantar a una persona con IA (Ley 2502 de 2025), que la Corte Constitucional avaló en la sentencia C-212 de 2026. Lo que obliga hoy es la Ley 1581 de 2012 y la Circular Externa 002 de 2024 de la SIC para datos personales tratados con IA; el CONPES 4144 de 2025 es política pública, no obligación.
México: tampoco hay ley de IA. Aplica la Ley Federal de Protección de Datos Personales en Posesión de los Particulares, reformada en marzo de 2025, y hay iniciativas en el Congreso.
Chile: la Ley 21.719 de datos personales entra en vigor el 1 de diciembre de 2026 (con un proyecto para aplazarla en trámite) e incluye el derecho a oponerse a decisiones automatizadas; el proyecto de ley de IA (boletín 16821-19), basado en niveles de riesgo como el reglamento europeo, está en el Senado.
Argentina: sin ley de IA; aplica la Ley 25.326 de protección de datos personales y las guías de la autoridad de datos.
España y la Unión Europea: el Reglamento de IA exige transparencia desde agosto de 2026 y aplaza las obligaciones de alto riesgo a diciembre de 2027 (Reglamento (UE) 2026/1744), con multas de hasta 35 millones de euros, y la norma UNE-ISO/IEC 42001:2026 es la versión española del sistema de gestión de IA.

El común denominador: ningún país exige todavía una «licencia de IA», pero todos exigen proteger los datos personales que la IA usa y poder demostrarlo. La norma ISO/IEC 42001 es hoy la forma más clara de ordenar eso antes de que las leyes lleguen; mida su punto de partida con la autoevaluación ISO 42001.

Cómo gestionar los riesgos de la IA en 6 pasos

1. Inventario: qué IA usa la empresa, quién la usa y con qué datos, incluida la que nadie aprobó.
2. Política de uso: qué está permitido, qué no, y qué herramientas son las oficiales.
3. Clasificación del riesgo: cada caso de uso según su impacto en personas, dinero y datos personales.
4. Controles técnicos: cuentas empresariales, MFA, DLP, permisos mínimos para los agentes y registro.
5. Proveedores: contratos con no entrenamiento, ubicación de datos y derecho a auditar.
6. Auditoría y mejora: pruebas periódicas de seguridad y sesgo, y responsables con nombre. Una auditoría de IA externa cierra el ciclo.

España y la Unión Europea: calendario del Reglamento de IA

Desde el 2 de febrero de 2025: prácticas de IA prohibidas (manipulación, puntuación social, ciertos usos de reconocimiento biométrico).
Desde el 2 de agosto de 2025: obligaciones para los modelos de IA de uso general.
Desde el 2 de agosto de 2026: transparencia (avisar que se habla con una IA y marcar el contenido generado); la IA generativa que ya estaba en el mercado tiene hasta el 2 de diciembre de 2026.
Desde el 2 de diciembre de 2027: obligaciones de los sistemas de alto riesgo del anexo III (empleo, crédito, educación, servicios esenciales), aplazadas por el Digital Omnibus (Reglamento (UE) 2026/1744); los del anexo I, desde el 2 de agosto de 2028.

En España no hay todavía una ley nacional de IA vigente: el Consejo de Ministros aprobó el proyecto de ley orgánica para el buen uso y la gobernanza de la IA en mayo de 2026 y lo envió al Congreso. La autoridad de supervisión es la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial, con sede en A Coruña), y la AEPD sigue a cargo cuando la IA trata datos personales. Las multas del reglamento llegan a 35 millones de euros o el 7 % de la facturación mundial.

Preguntas frecuentes sobre los riesgos de la inteligencia artificial

¿Cuáles son los principales riesgos de la inteligencia artificial para una empresa?

Fuga de datos en asistentes de IA, herramientas de IA sin aprobar (IA en la sombra), deepfakes y phishing hechos con IA, agentes con permisos de más, sesgo en decisiones automatizadas, incumplimiento de las normas de datos personales, dependencia de proveedores, código generado con fallas y errores sin supervisión humana.

¿Cuáles son los 5 riesgos de la IA más comunes en una pyme?

Fuga de datos por pegar información en ChatGPT u otros asistentes, IA en la sombra, fraude con voz clonada del gerente, phishing hiperpersonalizado y contratos de proveedores de IA que nadie revisó.

¿Es seguro usar ChatGPT en la empresa?

Sí, con reglas: una política de uso, versiones empresariales que no entrenan con sus datos y la prohibición de pegar datos personales o confidenciales. Sin esas reglas, es la fuente de fuga de datos más común.

¿Qué es la IA en la sombra?

El uso de herramientas de inteligencia artificial por parte de los empleados sin que la empresa las haya aprobado ni sepa qué datos reciben.

¿Qué ley regula la inteligencia artificial en Colombia?

Ninguna ley integral todavía (la Ley 2502 de 2025 solo agrava la suplantación de identidad hecha con IA). Hoy obligan la Ley 1581 de 2012 y la Circular Externa 002 de 2024 de la SIC cuando la IA trata datos personales; el CONPES 4144 es política pública y hay proyectos de ley en trámite.

¿Qué es un deepfake y cómo afecta a una empresa?

Un audio, video o imagen generado con IA que imita a una persona real. En las empresas se usa para suplantar a un directivo y aprobar pagos o cambios de cuenta bancaria.

¿Cómo sé si la IA de mi empresa es de alto riesgo?

Depende del impacto sobre personas: crédito, empleo, salud, educación o servicios esenciales suelen ser de alto riesgo según el reglamento europeo y las leyes que lo copian. El clasificador de riesgo de IA lo indica en dos minutos.

¿Quiere poner la IA de su empresa bajo control?

Conozca nuestro servicio de gobernanza de IA ISO 42001: diagnóstico, pruebas y plan de cierre con evidencias.

Ver el servicio

Marcar este sitio como fuente preferida en Google

También te puede interesar

Comentarios (0)

Sé el primero en comentar.