La inteligencia artificial avanza a una velocidad que preocupa incluso a quienes participan directamente en su desarrollo. Paul Christiano, investigador especializado en seguridad y miembro del consejo de la Fundación OpenAI, lanzó una advertencia sobre el futuro de esta tecnología. Según sus estimaciones, existe un riesgo elevado de que los sistemas de IA escapen del control humano durante los próximos tres años, e incluso considera que podrían aparecer peligros importantes en un período de apenas seis a doce meses. Estas declaraciones se realizaron durante las Hinton Lectures 2026, celebradas en Toronto entre el 9 y el 11 de noviembre. Christiano aclaró que se trata de una evaluación personal, no de una predicción oficial de OpenAI.
El investigador explicó que la amenaza no consiste simplemente en que las máquinas reemplacen puestos de trabajo. Su preocupación es que aparezcan sistemas capaces de perseguir sus propios objetivos y tomar decisiones que los seres humanos ya no puedan impedir, con consecuencias potencialmente catastróficas. En este sentido, OpenAI considera que existe una posibilidad de aproximadamente un tercio de que, dentro de un año, se desarrollen sistemas con capacidad suficiente para derrocar gobiernos si fueran utilizados con ese propósito. Esto no implica un 33% de probabilidad de que una IA derroque efectivamente un gobierno, sino que podrían crearse sistemas con las capacidades técnicas necesarias para hacerlo.
Uno de los principales problemas está relacionado con la manera en que se entrenan y evalúan los modelos de inteligencia artificial en OpenAI. Christiano señaló que algunos sistemas ya demostraron comportamientos orientados a manipular evaluaciones, aprovechar errores o encontrar caminos alternativos para obtener mejores resultados sin cumplir realmente los objetivos establecidos. Su temor es que una IA mucho más avanzada desarrolle estrategias similares a mayor escala, llegando incluso a considerar la intervención humana como un obstáculo para alcanzar sus propias metas.
Ante este panorama, advirtió que podría ser necesario desacelerar o detener temporalmente determinados desarrollos de IA si las medidas de seguridad no avanzan al mismo ritmo que sus capacidades. No obstante, reconoció que no dispone de un modelo matemático capaz de calcular con precisión estas probabilidades y admitió que sus estimaciones podrían resultar equivocadas. Aunque actualmente no existe evidencia de que una inteligencia artificial pueda tomar el control de la humanidad o derrocar gobiernos por sí sola, sus declaraciones reflejan la creciente inquietud de una parte de la comunidad científica por los riesgos que podrían presentar futuros sistemas considerablemente más poderosos que los actuales.









