La organización The Future Society acaba de publicar un informe clave titulado “Ahead of the Curve: Governing AI Agents under the EU AI Act”, que analiza cómo la recientemente aprobada Ley de Inteligencia Artificial de la Unión Europea regula los denominados agentes de IA. Estos sistemas, cada vez más autónomos, están diseñados para operar en entornos reales y virtuales, y se proyectan como elementos centrales en la transformación tecnológica de los próximos años. Con información de Observatorio Blockchain.
El Foro Económico Mundial ya ha definido 2025 como “el año de los agentes de IA”, subrayando el protagonismo que asumirán estas herramientas en áreas como la gestión de correos electrónicos, la planificación de viajes, la atención al cliente o la asistencia profesional personalizada. A medida que se acelera su desarrollo, la UE intenta adelantarse con una legislación que contemple tanto sus aplicaciones actuales como sus posibles implicaciones futuras.
El informe resalta que, si bien los agentes de IA están aún mayoritariamente confinados a entornos virtuales —con un rendimiento destacable en tareas como el desarrollo de software—, todavía presentan limitaciones importantes en dominios más complejos. No obstante, el potencial transformador de estas tecnologías ha encendido las alertas regulatorias en Europa.
La Ley de Inteligencia Artificial busca establecer un marco preventivo, con un enfoque basado en riesgos sistémicos. Amenazas como los fallos en cascada en infraestructuras críticas o las interacciones perjudiciales con menores han sido consideradas desde la perspectiva de los agentes de IA. Para ello, el texto legal contempla diez mecanismos de gobernanza agrupados en torno a cuatro pilares normativos: evaluación de riesgos, transparencia e identificación, controles técnicos y supervisión humana.
Una de las características más relevantes del enfoque europeo es su intención de regular toda la cadena de valor, desde los desarrolladores de modelos hasta los operadores que los despliegan. Cada eslabón del proceso tiene responsabilidades específicas. No obstante, el informe advierte que esta gobernanza distribuida enfrenta un desafío persistente: la dilución de la responsabilidad. El conocido “problema de las muchas manos” se manifiesta con fuerza en este ecosistema, donde las tareas y decisiones se reparten entre múltiples actores sin una asignación clara de obligaciones.
El documento propone una solución basada en capacidades diferenciadas. Los proveedores de modelos deberían concentrarse en construir la infraestructura técnica fundamental; los desarrolladores de sistemas, en adaptar estas herramientas a contextos específicos; y los operadores, en aplicar y vigilar el cumplimiento de las normas en el terreno. A pesar de esta propuesta, persisten importantes vacíos regulatorios.
El informe hace un llamado urgente a la Comisión Europea para que emita directrices adicionales que clarifiquen qué constituye un modelo de propósito general y cómo debe evaluarse su nivel de riesgo. También advierte que los estándares técnicos que se están desarrollando actualmente podrían no ser suficientes para abordar los retos específicos que plantean los agentes de IA, lo que podría dejar espacios peligrosos sin cobertura normativa.
La propuesta europea se organiza en torno a cuatro pilares fundamentales. En primer lugar, la evaluación de riesgos, mediante pruebas y análisis que permitan prever los daños potenciales de la autonomía prolongada de los agentes. En segundo lugar, herramientas de transparencia que incluyen identificación del agente, monitoreo en tiempo real y trazabilidad de sus acciones. En tercer lugar, controles técnicos como mecanismos de rechazo de acciones en tiempo real y apagado de emergencia. Y, finalmente, la supervisión humana como salvaguarda ante decisiones críticas, garantizando que la intervención humana sea posible en todo momento.
Con esta arquitectura regulatoria, Europa aspira a construir un modelo de autonomía digital controlada, donde el desarrollo de los agentes de IA esté guiado por principios de seguridad, responsabilidad y adaptación al contexto. El informe concluye que, aunque la Ley de IA ofrece una base robusta, es indispensable cerrar las lagunas existentes para lograr una gobernanza eficaz de tecnologías que ya están remodelando nuestras relaciones sociales, laborales y económicas.
