Ocho de cada diez directivos españoles ya han afrontado un incidente relacionado con la IA

La inteligencia artificial ha dejado de ser un exclusivo asunto del departamento de innovación: ahora también tiene un lugar, aunque incómodo, en las reuniones de la alta dirección. Según un estudio de Merca2, el 82% de los directivos españoles encuestados reconoce que algún incidente relacionado con esta tecnología llegó a los consejos de administración o a los comités ejecutivos en el último año.

Este dato proviene de una investigación realizada por IBM a través de Censuswide, que analizó a 540 líderes de empresas españolas con un mínimo de 1.000 empleados. Sin embargo, la misma investigación revela una clara disparidad: solo el 36% de los encuestados indica que su compañía cambió sus políticas o marcos de gobernanza tras haber enfrentado uno de esos eventos.

El incidente no siempre es una catástrofe

El estudio abarca diversas situaciones que pueden variar ampliamente. Un agente de IA podría fallar al llevar a cabo una tarea, una herramienta podría exponer información confidencial, un sistema puede respaldar una decisión errónea o ocurrir una brecha de seguridad. También se incluyen errores que se detectaron a tiempo, antes de que generaran consecuencias visibles.

Este conjunto de circunstancias invita a interpretar la cifra con precaución. El 82% no implica que ocho de cada diez empresas hayan sufrido una filtración grave. Significa que los problemas asociados con la IA han alcanzado ya la cumbre de la gestión empresarial. Esto plantea una cuestión fundamental, aunque no técnica: ¿quién es el responsable cuando un sistema automatizado comete un error?

La sensación de urgencia se intensifica con el surgimiento de los agentes de IA, quienes tienen la capacidad de consultar aplicaciones, tomar decisiones y ejecutar acciones con menor intervención humana. De hecho, el 73% de los directivos españoles prevé que estos agentes sean autónomos para decidir en el año 2027, mientras que solo el 34% considera que la gobernanza de su organización está lista para ampliar su uso.

Casi todas las empresas analizadas manifiestan que el consejo tiene una implicación formal en este asunto: el 99% declara haber encargado a este órgano la responsabilidad relacionada con el riesgo de la IA. A pesar de ello, solamente el 27% cuenta con un comité específico para tal fin. Tener la responsabilidad documentada es un paso útil, pero no reemplaza los controles efectivos.

Cinco controles para reducir riesgos

La solución no radica en prohibir la IA ni en aprobar cada herramienta impulsados por el entusiasmo. Las organizaciones deben conocer con detalle qué sistemas emplean, cuál es su funcionamiento y qué datos gestionan. Un marco mínimo de control debería incluir:

• Inventario completo: registrar modelos, aplicaciones y agentes, especificando su propósito, proveedor, versión, datos utilizados y el departamento responsable.
• Clasificación por riesgo: diferenciar entre una herramienta que redacta un borrador y otra que modifica expedientes, concede créditos o accede a información personal.
• Mínimo privilegio: otorgar a cada agente únicamente los permisos esenciales, con credenciales separadas, límites de tiempo y acceso restringido a sistemas sensibles.
• Supervisión humana: establecer umbrales que exijan autorización antes de realizar acciones como enviar dinero, modificar datos, contratar servicios o tomar decisiones que afecten a personas.
• Registro y apagado: conservar rastros de las instrucciones, decisiones y acciones del sistema, además de implementar un mecanismo para detenerlo de inmediato.

Los directivos en España identifican medidas análogas. El 33% recomienda cláusulas legales o contractuales que definan las responsabilidades del proveedor ante fallos de sus agentes; el 31% solicita umbrales claros para activar la intervención humana; el 29% considera esencial contar con supervisión en tiempo real junto a registros de auditoría, y el 30% manifiesta la necesidad de poder detener la actividad de estos sistemas a nivel organizativo.

Del documento al simulacro

Una política de IA que se limita a estar guardada en la intranet no es suficiente para proteger a las empresas. El equipo de seguridad debe someter a prueba qué sucedería si un agente recibe instrucciones maliciosas, accede a datos que no debería o intenta actuar fuera de su ámbito de acción. Las pruebas deben abarcar ataques de inyección de instrucciones, filtraciones, errores de identificación y accesos no autorizados.

Es igualmente importante establecer un protocolo de respuesta con responsables claros. Este proceso debería aclarar:

1. Quién tiene la autoridad para bloquear el sistema.
2. Qué evidencias deben ser conservadas.
3. Cuándo se debe informar a la dirección, clientes o autoridades.
4. Cómo se evalúa el daño ocasionado.
5. Qué modificaciones se implementarán para evitar que el incidente se repita.

La trazabilidad es particularmente relevante cuando el sistema trabaja con proveedores externos. El contrato debe especificar dónde se almacenan los datos, quién tiene acceso a ellos, cómo se notifican los incidentes y qué nivel de apoyo recibirá la empresa. Si no se puede reconstruir lo que hizo el agente, la auditoría se convierte en un juego de adivinanzas con el presupuesto corporativo.

El control debe estar presente a lo largo de todo el ciclo de vida del sistema. Cada vez que se produce un cambio de modelo, conexión a una nueva base de datos o ampliación de permisos, es necesario reevaluar el riesgo. La capacitación del personal también es vital: muchos incidentes empiezan con una configuración apresurada, el uso de una contraseña repetida o la inserción de información confidencial en herramientas no autorizadas.

La IA proporciona velocidad y escala, pero también acelera la aparición de errores. Las empresas en España ya están llevando esos fallos a la alta dirección; el desafío ahora es asegurar que cada incidente genere algo más que reuniones de emergencia: un nuevo control, que sea medible y difícil de eludir.

Mientras tanto, es bueno recordar que un agente de IA carece de intuición, sentido común o miedo a meterse en problemas: simplemente ejecuta lo que está programado para hacer. Por eso, antes de entregarle las llaves de la empresa, es prudente comprobar qué puertas tiene la capacidad de abrir.