El Leviatán algorítmico

La tesis que articula este ensayo sostiene que la Superinteligencia Artificial no debe conceptualizarse como un producto tecnológico discreto que alguna organización o estado diseñará y desplegará en un momento determinado. En lugar de ello, la ASI debe entenderse como un resultado evolutivo emergente de las dinámicas sistémicas inherentes al desarrollo de inteligencias artificiales generales en entornos de competencia, cooperación e integración tecnológica.
Esta distinción es fundamental porque desplaza radicalmente el marco de análisis. Si la ASI fuera un diseño puntual, el problema principal sería de ingeniería y control: ¿cómo construir una ASI segura y alineada? Las preguntas relevantes serían técnicas, éticas y de gobernanza inmediata: ¿qué valores incorporar?, ¿qué mecanismos de interrupción implementar?, ¿quién debe tener acceso a esta capacidad?Pero si la ASI es un resultado evolutivo-un atractor en el espacio de estados posibles de sistemas cognitivos artificiales interconectados-, entonces el problema adquiere una dimensión radicalmente diferente.
Ya no se trata simplemente de diseñar bien un sistema particular, sino de comprender las leyes de movimiento que gobiernan la evolución de ecosistemas de AGI y determinar si existen puntos de intervención efectivos antes de que la convergencia se vuelva irreversible. La analogía relevante no es la del ingeniero diseñando una máquina, sino la del biólogo evolutivo observando la emergencia de formas de vida complejas a partir de interacciones de organismos más simples.
Así como la multicelularidad no fue "diseñada" por ninguna célula individual sino que emergió como solución evolutivamente estable a problemas de coordinación y eficiencia, la ASI puede emerger como resultado de la interacción entre múltiples AGI que descubren-o son empujadas por sus incentivos estructurales a descubrir-que la integración ofrece ventajas decisivas sobre la competencia aislada.