La cuestión ya no es qué puede hacer la IA, sino qué debemos permitirle hacer. La inteligencia artificial está dejando de ser únicamente una herramienta que responde preguntas, redacta documentos o analiza información. Estamos entrando en una etapa diferente: sistemas capaces de utilizar herramientas, consultar información, encadenar tareas y ejecutar acciones con un grado creciente de autonomía.
Para las empresas, esto representa una extraordinaria oportunidad de productividad y eficiencia. Pero introduce una pregunta que hasta ahora no era tan urgente:
¿Hasta dónde estamos dispuestos a delegar?
El debate no debería plantearse como una elección entre utilizar o no utilizar inteligencia artificial. Tampoco entre confiar o desconfiar de ella.
La verdadera cuestión es determinar qué puede hacer autónomamente, qué debe hacer bajo supervisión y qué decisiones deben permanecer necesariamente bajo responsabilidad humana.
Existe una diferencia fundamental entre pedir a una inteligencia artificial que analice una situación y permitirle actuar sobre ella.
Un asistente puede analizar cien currículos y señalar cuáles parecen ajustarse mejor a un determinado perfil profesional.
Otra cosa es permitirle decidir quién queda definitivamente excluido de un proceso de selección.
Puede detectar una anomalía financiera.
Otra cosa es permitirle bloquear una cuenta o realizar una transferencia.
Puede analizar determinados datos relacionados con la salud y detectar patrones.
Otra cosa muy distinta es convertir automáticamente esa información en una decisión clínica que corresponda adoptar a un profesional.
En todos estos casos la inteligencia artificial puede aportar un enorme valor. La cuestión está en dónde situamos la frontera entre asistencia y decisión.
Las empresas pueden cometer dos errores opuestos.
El primero consiste en desconfiar tanto de la inteligencia artificial que cualquier acción requiera autorización humana. El resultado sería paradójico: incorporar una tecnología destinada a aumentar la productividad para terminar creando nuevos procesos burocráticos.
Pero existe un segundo error potencialmente más peligroso: otorgar autonomía sin establecer previamente sus límites.
La solución está entre ambos extremos.
Cuanto menor sea el riesgo y más reversible sea una acción, mayor puede ser la autonomía de la IA. Cuanto mayores sean sus consecuencias, menor debería ser esa autonomía.
Hay determinados ámbitos en los que las empresas deberían establecer barreras especialmente claras.
En Recursos Humanos, una IA puede organizar candidaturas, comparar información o ayudar a identificar perfiles. Pero decisiones como contratar, despedir, sancionar o excluir definitivamente a una persona pueden afectar profundamente a sus derechos y a su vida profesional.
En finanzas, puede conciliar operaciones, detectar anomalías, preparar previsiones o incluso preparar órdenes de pago. Pero disponer libremente del patrimonio empresarial o ejecutar operaciones económicas relevantes introduce otro nivel de responsabilidad.
En salud, puede analizar información, identificar patrones o proporcionar apoyo al profesional. Pero cuanto mayor sea el impacto clínico de una decisión, más importante resulta establecer una intervención profesional adecuada antes de convertir una recomendación algorítmica en una actuación.
En ciberseguridad, puede detectar amenazas y reaccionar automáticamente ante determinados incidentes previamente definidos. Eso no significa que deba disponer sin restricciones de credenciales maestras, copias de seguridad o sistemas críticos.
Y algo semejante sucede en las áreas jurídica, comercial, administrativa o de comunicación: preparar un contrato no es firmarlo; detectar una reclamación no es reconocer una responsabilidad; redactar una comunicación de crisis no es decidir la posición oficial de una compañía.
Este punto resulta especialmente importante.
Si una empresa considera que una inteligencia artificial nunca debe realizar determinada acción autónomamente, posiblemente no sea suficiente con incluir en sus instrucciones:
"No hagas esto sin autorización."
Cuando las consecuencias potenciales son graves, el límite debería existir también técnicamente.
Si un agente de IA no debe poder realizar determinadas transferencias sin autorización, el sistema debería impedirlo.
Si no debe borrar una base de datos, sus permisos deberían impedirlo.
Si no debe divulgar determinada información confidencial, no debería disponer de acceso indiscriminado a ella.
Una política de IA responsable no puede descansar exclusivamente en el comportamiento esperado de la inteligencia artificial. También debe descansar en la arquitectura de permisos que la rodea.
Una forma sencilla de abordar esta cuestión dentro de cualquier empresa sería clasificar las actuaciones de una IA en tres niveles.
Autonomía.
Tareas de bajo riesgo, trazables y fácilmente reversibles. La IA puede ejecutarlas sin autorización previa.
Autonomía supervisada.
La IA puede analizar, preparar y desarrollar el trabajo, pero determinados puntos requieren aprobación humana antes de continuar.
Reserva humana.
La decisión final o su ejecución corresponde necesariamente a una persona responsable debido a sus consecuencias económicas, jurídicas, profesionales, sanitarias, reputacionales o de seguridad.
Este modelo permite aprovechar la capacidad de la inteligencia artificial sin convertir la supervisión humana en un obstáculo permanente.
El Reglamento europeo de Inteligencia Artificial adopta precisamente un enfoque basado en el riesgo. Determinados usos relacionados con ámbitos sensibles, como empleo, infraestructuras críticas o determinados sistemas vinculados a la salud y la seguridad, reciben un tratamiento específico. Para los sistemas considerados de alto riesgo se contemplan, entre otras medidas, gestión de riesgos, trazabilidad, documentación, robustez y supervisión humana.
La normativa europea también está introduciendo obligaciones de transparencia. Desde el 2 de agosto de 2026 se aplican determinadas reglas destinadas, entre otras cuestiones, a que las personas puedan saber cuándo están interactuando con determinados sistemas de IA y a identificar ciertos contenidos generados o manipulados mediante inteligencia artificial.
No se trata, por tanto, únicamente de un debate filosófico. La gobernanza de la inteligencia artificial está entrando en la gestión cotidiana de las organizaciones.
Establecer límites a la autonomía de la inteligencia artificial no significa frenar la innovación. Significa crear las condiciones para utilizarla con confianza, criterio y responsabilidad.
Desde ElEmpresarial.com impulsamos IAR — Inteligencia Artificial Responsable , una iniciativa que parte de un principio sencillo: la herramienta puede ayudar, pero la responsabilidad sigue siendo humana.
IAR propone avanzar en el uso de la inteligencia artificial desde la ética, la transparencia, la responsabilidad y la supervisión humana, poniendo la tecnología al servicio de las personas.
Profesionales, empresas y organizaciones pueden conocer el manifiesto, las buenas prácticas, el Indicador IAR y las diferentes formas de adhesión a esta iniciativa en elempresarial.com/IAR/ .
La tecnología es el motor. Las personas son el corazón.
Conoce IAR — Inteligencia Artificial ResponsableProbablemente esta sea la cuestión fundamental.
Podemos automatizar tareas.
Podemos automatizar análisis.
Podemos automatizar procesos completos.
Incluso podemos permitir que determinados agentes de inteligencia artificial actúen autónomamente.
Pero eso no significa que podamos automatizar la responsabilidad.
Detrás de cada sistema utilizado por una empresa debe continuar existiendo alguien que haya decidido para qué se utiliza, qué información puede manejar, qué acciones puede ejecutar y dónde están sus límites.
Por eso, antes de preguntarnos:
«¿Puede hacerlo una inteligencia artificial?»
quizá deberíamos formular otras tres preguntas:
¿Qué ocurre si se equivoca?
¿Podemos revertir lo que ha hecho?
¿Quién responde de las consecuencias?
Las respuestas probablemente nos indiquen cuánta autonomía estamos realmente preparados para concederle.
Porque una inteligencia artificial responsable no es necesariamente una inteligencia artificial que hace menos.
Es una inteligencia artificial que sabe —porque nosotros lo hemos diseñado así— hasta dónde puede llegar.
