Premios Nobel, científicos, especialistas en inteligencia artificial, líderes religiosos y expertos en seguridad internacional advirtieron que la humanidad enfrenta un punto de inflexión comparable al inicio de la era nuclear. Reunidos en una Asamblea Mundial celebrada en Castel Gandolfo, Italia, plantearon la necesidad de crear nuevas normas internacionales para garantizar que la inteligencia artificial permanezca bajo control humano y no incremente el riesgo de conflictos armados o de una guerra nuclear.
Ochenta años después del inicio de la era atómica, la comunidad internacional comienza a debatir un desafío que podría definir el futuro del siglo XXI: el desarrollo acelerado de la inteligencia artificial y su creciente incorporación a sistemas militares, infraestructuras críticas y procesos de toma de decisiones estratégicas. Para numerosos especialistas, la velocidad con la que avanza esta tecnología exige construir una nueva arquitectura internacional de gobernanza capaz de evitar que la innovación tecnológica se convierta en un factor de desestabilización global.
Ese fue el eje central de la Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, realizada en Castel Gandolfo, donde participaron premios Nobel, investigadores, expertos en IA, representantes religiosos y miembros de organizaciones internacionales. El encuentro analizó los riesgos que surgen cuando tecnologías de inteligencia artificial comienzan a integrarse en sistemas de defensa, ciberseguridad y control de armamento, así como la necesidad de establecer reglas internacionales antes de que el desarrollo tecnológico supere la capacidad regulatoria de los Estados.
Uno de los principales consensos alcanzados durante el encuentro fue que ningún sistema de inteligencia artificial debería tener autoridad para decidir el lanzamiento de armas nucleares. Los participantes sostuvieron que las decisiones relacionadas con el empleo de armamento estratégico deben permanecer siempre bajo supervisión humana efectiva, evitando que algoritmos puedan responder automáticamente ante situaciones de crisis, errores de interpretación o ciberataques. Diversas organizaciones internacionales ya promueven un tratado que prohíba expresamente delegar este tipo de decisiones en sistemas automatizados.
La preocupación no se limita al ámbito militar. Expertos consideran que la inteligencia artificial transformará profundamente la economía, el mercado laboral, la educación, la salud, la administración pública y la seguridad digital. Aunque estas tecnologías ofrecen oportunidades extraordinarias para acelerar la investigación científica, mejorar diagnósticos médicos y optimizar la producción industrial, también plantean interrogantes sobre privacidad, concentración de poder tecnológico, desinformación, vigilancia masiva y uso indebido por parte de gobiernos o grupos criminales.
El debate recuerda, en muchos aspectos, al surgido tras la Segunda Guerra Mundial con el desarrollo de la energía nuclear. En aquella época, la comunidad internacional impulsó tratados de no proliferación, organismos de control y mecanismos diplomáticos destinados a evitar una nueva catástrofe global. Hoy, numerosos especialistas consideran que la inteligencia artificial requiere un esfuerzo similar de cooperación internacional, capaz de establecer principios éticos comunes, estándares técnicos y mecanismos de supervisión que acompañen la velocidad del desarrollo tecnológico.
La advertencia también alcanza a la competencia geopolítica. Estados Unidos, China, Rusia y otras potencias están destinando miles de millones de dólares al desarrollo de inteligencia artificial aplicada a la defensa, la ciberseguridad y los sistemas de armas. Analistas consideran que esta carrera tecnológica podría convertirse en un nuevo elemento de tensión internacional si no existen acuerdos que limiten determinados usos militares de la IA y fortalezcan la confianza entre los Estados.
El físico y premio Nobel David Gross advirtió recientemente que uno de los mayores riesgos consiste en la creciente tentación de delegar decisiones complejas en sistemas de inteligencia artificial debido a su enorme velocidad de procesamiento. Según el científico, mantener el control humano será uno de los principales desafíos éticos y políticos de las próximas décadas, especialmente en ámbitos donde un error podría tener consecuencias irreversibles para millones de personas.
Más allá del ámbito militar, los expertos subrayan que la gobernanza de la inteligencia artificial también debe contemplar la protección de los derechos humanos, la transparencia de los algoritmos, la responsabilidad legal de quienes desarrollan estas tecnologías y mecanismos eficaces para reducir las desigualdades entre países con diferentes capacidades tecnológicas. La cooperación internacional, afirman, será fundamental para evitar que los beneficios de la IA queden concentrados en un reducido número de naciones o grandes corporaciones tecnológicas.
Los participantes de la Asamblea coincidieron en que la humanidad se encuentra en un momento comparable al vivido tras la aparición de las armas nucleares en 1945. En ambos casos, el desafío consiste en desarrollar instituciones, normas y acuerdos capaces de controlar tecnologías con un enorme potencial para beneficiar a la sociedad, pero también con capacidad de generar riesgos globales si se utilizan sin límites ni supervisión adecuada.
El debate apenas comienza, pero el mensaje de los especialistas es claro: la inteligencia artificial ya dejó de ser únicamente una herramienta tecnológica para convertirse en un asunto central de seguridad internacional, gobernanza global y paz mundial. La capacidad de los Estados para construir reglas comunes durante los próximos años podría determinar si la IA se consolida como una herramienta para el desarrollo humano o si se convierte en un nuevo factor de inestabilidad comparable a los mayores desafíos estratégicos de la era nuclear.
ACERCA DEL CORRESPONSAL
GILSON DANTAS CARMINI
Gilson Dantas Carmini es periodista brasileño, presidente y editor en jefe de Prensa Mercosur. Especializado en integración regional, geopolítica y derechos humanos, desarrolla una destacada labor en el ámbito de la comunicación internacional.
Posee un Máster en Desarrollo y Cooperación Internacional y mantiene una amplia red de relaciones profesionales, académicas y diplomáticas en América Latina y Asia.
Entre sus reconocimientos destacan el Micrófono de Oro de la Asociación Nacional de Locutores de México (2021), el Doctorado Honoris Causa de la Universidad Internacional México Blanco (2020) y el título de Amigo de la Niñez y la Adolescencia.
- ★Jurista luso-brasileño propone un eje estratégico entre el Mercosur, la Unión Europea y los Emiratos Árabes Unidos para impulsar la nueva economía global
- ★Errores formales en la declaración de origen: el nuevo desafío jurídico para las empresas que comercian entre el Mercosur y la Unión Europea
- ★El vino europeo podría bajar hasta un 20 % de precio gracias al acuerdo entre la Unión Europea y el Mercosur
- ★FIESC analiza las oportunidades del Acuerdo Mercosur–Singapur y prepara a la industria brasileña para ampliar su presencia en Asia
- ★CNA participa de reunión de la FARM en Paraguay para fortalecer la integración agropecuaria y definir una estrategia común del Mercosur
