El secretario general de la ONU, António Guterres, llamó este miércoles a los gobiernos y a las principales empresas tecnológicas a cooperar para contener los riesgos de la inteligencia artificial (IA), ante la preocupación de que su desarrollo avance más rápido que la capacidad internacional para comprender y controlar sus consecuencias. Advirtió que el mundo no puede permitirse una “carrera hacia el abismo” en materia de seguridad.
Guterres sostuvo que los gobiernos tienen la responsabilidad primaria de proteger a la población civil, por lo que la acción nacional es indispensable. Sin embargo, afirmó que las medidas internas no serán suficientes sin coordinación global entre los países con mayor capacidad tecnológica, las empresas, los científicos y la sociedad civil.
El funcionario pidió establecer barreras de seguridad que permitan generar confianza y garanticen que la IA sea segura, transparente y responsable, con la dignidad humana como eje. Entre los riesgos señalados se encuentran posibles daños a la salud mental, impactos en los sistemas sociales, económicos y ambientales, así como el uso de sistemas avanzados como herramientas destructivas.
¿Por qué resulta difícil coordinar una respuesta internacional?
La advertencia de Guterres ocurre en medio de una competencia tecnológica y económica entre empresas y gobiernos, particularmente por el avance de China y los incentivos comerciales asociados al desarrollo de la IA. El secretario general se refirió a una propuesta de Dario Amodei, director ejecutivo de Anthropic, para coordinar una desaceleración temporal del desarrollo entre las principales compañías y los gobiernos.
Sam Altman, Elon Musk y otros líderes del sector han expresado recientemente que el avance de la IA debería moderarse para evaluar sus riesgos. En contraste, Mark Zuckerberg afirmó que cada empresa debe garantizar por sí misma que sus sistemas sean seguros. A estas diferencias se suma el rechazo del presidente estadounidense Donald Trump a las advertencias sobre una eventual amenaza para la humanidad.
Guterres también reconoció que la IA puede acelerar el desarrollo económico y educativo, además de fortalecer los sistemas de salud. No obstante, alertó sobre el peligro de una inteligencia artificial fuera de control y señaló que el tema será central en sus conversaciones con líderes mundiales durante el próximo periodo de sesiones de la Asamblea General de la ONU.
- Punto clave / Qué ocurrió: António Guterres pidió cooperación internacional para reforzar la seguridad de la inteligencia artificial.
- Impacto o alcance: Los riesgos abarcan la salud mental, los sistemas sociales, económicos y ambientales, así como la seguridad global.
- Qué sigue: La ONU continuará evaluando medidas prácticas y la posibilidad de convocar una cumbre internacional con gobiernos, empresas, científicos y sociedad civil.
La Asamblea General ya creó en 2025 el primer organismo científico mundial sobre IA, integrado por 40 especialistas. Guterres reconoció que aún no existen condiciones para organizar de inmediato una cumbre, pero sostuvo que los países líderes en esta tecnología deben comenzar a intercambiar información y acordar medidas comunes para evitar riesgos de alcance global.
