Una advertencia dirigida al máximo órgano de Naciones Unidas
Líderes de las principales compañías de inteligencia artificial y especialistas de reconocido prestigio advirtieron al Consejo de Seguridad de Naciones Unidas sobre los riesgos que podrían derivarse de unos sistemas cada vez más avanzados. La reunión puso sobre la mesa una cuestión que ya trasciende los laboratorios tecnológicos: la necesidad de establecer mecanismos internacionales capaces de controlar tecnologías capaces de afectar a varios países al mismo tiempo.
Representantes de Anthropic y OpenAI, junto con el investigador canadiense Yoshua Bengio, coincidieron en señalar que ningún Estado, empresa o institución puede gestionar en solitario los posibles impactos de una inteligencia artificial mal controlada. El mensaje central fue que la evolución de estos sistemas exige una cooperación global antes de que surjan daños difíciles de contener.
La inteligencia artificial como amenaza transfronteriza
Dario Amodei, director ejecutivo de Anthropic, advirtió de que una inteligencia artificial utilizada de forma imprudente podría convertirse en un riesgo de alcance mundial. Según su planteamiento, las rivalidades políticas y comerciales no deberían impedir que los gobiernos identifiquen amenazas capaces de atravesar fronteras y perjudicar a poblaciones de distintas regiones.
Sam Altman, máximo responsable de OpenAI, centró sus intervenciones en quién debe aprobar y supervisar el desarrollo de estas tecnologías. Para Altman, decisiones de enorme impacto social no deberían quedar exclusivamente en manos de equipos internos de compañías privadas. Defendió modelos de gobernanza democrática en los que los gobiernos tengan capacidad de control y rindan cuentas ante la ciudadanía.
Bengio, uno de los pioneros de las redes neuronales y de la inteligencia artificial moderna, reforzó el llamado a la acción colectiva. Desde el ámbito académico advirtió que el Consejo de Seguridad enfrenta un desafío que no respeta jurisdicciones nacionales y que ningún miembro del organismo puede contener de manera individual.
Un debate que viene de lejos
Las Naciones Unidas analizan desde 2023 los posibles peligros derivados de la inteligencia artificial. La evolución de los modelos generativos y su rápida incorporación a sectores como la sanidad, la educación, las finanzas, la defensa y los medios de comunicación ha aumentado la presión para crear estándares internacionales.
Las principales inquietudes incluyen la difusión de información falsa a gran escala, la vigilancia masiva, la automatización de decisiones sensibles y el uso de sistemas autónomos en operaciones militares. También preocupa la concentración de capacidades avanzadas en un pequeño número de empresas con acceso a enormes recursos de cálculo y grandes volúmenes de datos.
Los avances recientes han acelerado el debate, pero también han reducido la capacidad de los gobiernos para comprender y controlar plenamente las nuevas funcionalidades de estas herramientas. Esa brecha entre la innovación tecnológica y la regulación ha convertido la inteligencia artificial en uno de los principales temas de seguridad internacional.
La fractura entre Estados Unidos y China
A pesar del consenso sobre la necesidad de actuar, persisten profundas diferencias sobre el alcance de las futuras normas. Estados Unidos y China mantienen aproximaciones distintas, lo que dificulta la creación de un marco común entre las dos mayores potencias tecnológicas y económicas.
El presidente de Estados Unidos, Donald Trump, rechazó durante su intervención en la Asamblea General de Naciones Unidas la propuesta de crear un esquema global para controlar la inteligencia artificial. Washington ha preferido impulsar iniciativas nacionales y acuerdos bilaterales, con especial atención a la seguridad de los centros de datos, la protección de infraestructuras críticas y la cooperación con aliados.
China, por su parte, ya aplica regulaciones relativas a algoritmos, datos de entrenamiento y etiquetado del contenido generado artificialmente. Pekín combina controles estrictos sobre la circulación de información con una política de apoyo al desarrollo del sector tecnológico. Este contraste refleja diferencias ideológicas, económicas y de soberanía que complican cualquier negociación multilateral.
¿Quién debe decidir sobre el futuro de la inteligencia artificial?
La discusión también plantea una cuestión política fundamental: si las normas deben definirse mediante instituciones internacionales, gobiernos nacionales o una combinación de ambos. Las empresas tecnológicas poseen gran parte del conocimiento técnico, pero carecen de legitimidad democrática para determinar por sí solas cómo se emplearán sistemas con efectos globales.
Los responsables de Anthropic y OpenAI defendieron la necesidad de incorporar mecanismos de supervisión pública, aunque continúan abiertas las diferencias sobre qué organismo debería coordinarlas y cómo verificar el cumplimiento de las normas. También existe discrepancia sobre si una autoridad internacional tendría suficiente autoridad para imponer sanciones o limitar el desarrollo de tecnologías consideradas peligrosas.
Un horizonte marcado por la cooperación y la desconfianza
La reunión dejó clara una coincidencia básica: la inteligencia artificial puede generar beneficios importantes, pero también producir daños sistémicos si se desarrolla sin límites adecuados. La dificultad reside en transformar esa advertencia compartida en reglas vinculantes entre países con intereses divergentes.
De no alcanzarse un acuerdo, el panorama futuro podría combinar una competencia tecnológica acelerada con normativas nacionales incompatibles. Esa fragmentación dificultaría la investigación de incidentes, el intercambio de información y la aplicación de responsabilidades cuando los efectos rebasen las fronteras. Por ahora, el desafío que enfrenta Naciones Unidas es convertir una emergencia tecnológica global en una respuesta política coordinada y efectiva.
