La inteligencia artificial se ha convertido en una preocupación estratégica para la alta dirección de las empresas españolas. Según un estudio elaborado por IBM entre 540 directivos del país, ocho de cada diez organizaciones trasladaron durante el último año algún incidente relacionado con la IA a sus máximos órganos de gobierno. Sin embargo, la mayoría no ha introducido cambios significativos en sus modelos de supervisión y control.
Los resultados ponen de manifiesto una creciente brecha entre la velocidad de adopción de la IA y la madurez de los mecanismos de gobernanza. Aunque el 82% de los encuestados afirma que situaciones como fallos de agentes de IA, fugas de datos, errores en decisiones automatizadas o incidentes de ciberseguridad alcanzaron el nivel del consejo o del comité ejecutivo, únicamente el 36% revisó sus políticas o marcos de gestión de riesgos como consecuencia.
La IA agéntica acelera el debate sobre el control y la responsabilidad
La irrupción de la denominada IA agéntica, capaz de ejecutar tareas y tomar decisiones con mayor autonomía, está elevando la preocupación de las organizaciones. Actualmente, el 25% de las empresas españolas ya utiliza agentes de IA en entornos productivos, mientras que el 73% prevé que estos sistemas tendrán algún grado de autonomía en la toma de decisiones antes de 2027.
Sin embargo, la preparación de las compañías para gestionar este nuevo escenario sigue siendo limitada. Solo el 34% de los directivos considera que su actual marco de gobernanza está preparado para escalar el uso de agentes de IA de forma segura y controlada.
Además, cuando los proyectos de IA avanzan más rápido que las estructuras de supervisión, la mayoría de las organizaciones opta por seguir adelante. El 65% mantiene los despliegues dentro de los niveles de riesgo definidos mientras adapta los mecanismos de control, frente al 30% que prefiere retrasar la implementación hasta disponer de un marco adecuado.
El consejo asume la responsabilidad, pero persisten dudas sobre la rendición de cuentas
La práctica totalidad de las organizaciones españolas (99%) ha asignado formalmente al consejo de administración la supervisión de los riesgos vinculados a la inteligencia artificial. De ellas, un 27% ya dispone de un comité específico dedicado a esta materia.
No obstante, el estudio revela que sigue existiendo incertidumbre sobre quién debe asumir la responsabilidad cuando un sistema de IA genera resultados adversos. El director de tecnología (CTO) o el director de sistemas (CIO) son las figuras más mencionadas, aunque únicamente por un 12% de los directivos, lo que refleja la ausencia de un consenso claro.
Tampoco existe una posición unificada respecto a la responsabilidad legal por daños causados por sistemas de IA. Un 19% considera que debería compartirse entre la organización usuaria y el proveedor tecnológico, un 18% reclama una regulación más específica y un 14% atribuye la responsabilidad principalmente al desarrollador o proveedor de la tecnología.
Supervisión humana y control en tiempo real, prioridades para las empresas
Ante el avance de los sistemas autónomos, los directivos españoles identifican varias medidas críticas para garantizar un uso seguro de la IA:
- Marcos legales y contractuales que definan claramente la responsabilidad de los proveedores (33%).
- Mecanismos que establezcan cuándo debe intervenir una persona en la toma de decisiones (31%).
- Capacidades para detener de forma inmediata la actividad de un agente de IA en toda la organización (30%).
- Supervisión en tiempo real y registros auditables de las decisiones y acciones ejecutadas por los agentes (29%).
Riesgos emergentes en finanzas, proveedores y cumplimiento normativo
La gestión del riesgo asociado a la IA también comienza a especializarse. El 53% de las compañías trata la IA generativa y la IA agéntica como categorías de riesgo diferenciadas, con marcos específicos para cada una. Aun así, solo el 32% dispone de una cuantificación formal del impacto financiero derivado de posibles deficiencias de gobernanza.
La cadena de suministro representa otro foco de vulnerabilidad. Casi la mitad de los encuestados (49%) reconoce lagunas en la supervisión de los sistemas de IA utilizados por proveedores y socios tecnológicos. Apenas el 20% monitoriza de forma continua estos riesgos y únicamente el 12% exige mecanismos independientes de certificación o garantía.
Por último, la próxima entrada en vigor de las obligaciones para sistemas de alto riesgo contempladas en la Ley de IA de la Unión Europea está impulsando nuevas inversiones. El 44% de las organizaciones españolas ya está acelerando iniciativas de gobernanza para anticiparse a los requisitos regulatorios previstos para diciembre de 2027, mientras que otro 39% continúa avanzando siguiendo planes de cumplimiento previamente definidos.
La gobernanza se convierte en un factor estratégico
Los datos reflejan un cambio de paradigma: la conversación empresarial sobre inteligencia artificial ya no gira exclusivamente en torno a la adopción o la innovación, sino cada vez más sobre la supervisión, la responsabilidad y la confianza. A medida que los agentes de IA adquieren mayor autonomía, las organizaciones deberán reforzar sus mecanismos de control para garantizar que el valor generado por estas tecnologías vaya acompañado de transparencia, trazabilidad y capacidad de respuesta ante posibles incidentes.
