Eficiencia sin control: los riesgos estructurales de la inteligencia artificial

La pregunta que este ensayo propone como punto de partida es diferente, y más incómoda: ¿qué ocurre cuando delegamos en sistemas de inteligencia artificial funciones que requieren juicio humano?Esta reformulación desplaza el problema desde el plano de la capacidad técnica al plano de la organización social e institucional. No pregunta qué puede hacer la IA -pregunta qué hacemos nosotros cuando la IA hace ciertas cosas en nuestro lugar.
Y esa distinción es crucial, porque introduce en el análisis una variable que los debates habituales ignoran sistemáticamente: el efecto de la delegación sobre quien delega. Cuando una organización delega en un sistema automatizado la evaluación de riesgos, la selección de candidatos o la gestión de incidencias, no solo está transfiriendo una tarea. Está transfiriendo también la práctica de ejercer ese juicio.
Y con esa práctica, a largo plazo, transfiere también la capacidad. Este proceso -silencioso, gradual, difícil de medir- es el verdadero núcleo del problema que el debate público no ha sabido nombrar todavía. Reformular el problema de esta manera tiene otra consecuencia importante: sitúa la responsabilidad en el lugar correcto. El riesgo no radica principalmente en la inteligencia artificial como tal, sino en las decisiones institucionales, económicas y políticas que determinan cuándo, cómo y en qué condiciones se delega en ella.
La tecnología no se despliega sola: se despliega en contextos de poder, de incentivos, de urgencia competitiva y de ausencia o presencia de regulación. Examinar esos contextos es examinar el problema real.