Premios Nobel, científicos, especialistas en inteligencia artificial, líderes religiosos y expertos en seguridad internacional advirtieron que la humanidad enfrenta un punto de inflexión comparable al inicio de la era nuclear. Reunidos en una Asamblea Mundial celebrada en Castel Gandolfo, Italia, plantearon la necesidad de crear nuevas normas internacionales para garantizar que la inteligencia artificial permanezca bajo control humano y no incremente el riesgo de conflictos armados o de una guerra nuclear.
Ochenta años después del inicio de la era atómica, la comunidad internacional comienza a debatir un desafío que podría definir el futuro del siglo XXI: el desarrollo acelerado de la inteligencia artificial y su creciente incorporación a sistemas militares, infraestructuras críticas y procesos de toma de decisiones estratégicas. Para numerosos especialistas, la velocidad con la que avanza esta tecnología exige construir una nueva arquitectura internacional de gobernanza capaz de evitar que la innovación tecnológica se convierta en un factor de desestabilización global.
Ese fue el eje central de la Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, realizada en Castel Gandolfo, donde participaron premios Nobel, investigadores, expertos en IA, representantes religiosos y miembros de organizaciones internacionales. El encuentro analizó los riesgos que surgen cuando tecnologías de inteligencia artificial comienzan a integrarse en sistemas de defensa, ciberseguridad y control de armamento, así como la necesidad de establecer reglas internacionales antes de que el desarrollo tecnológico supere la capacidad regulatoria de los Estados.
Uno de los principales consensos alcanzados durante el encuentro fue que ningún sistema de inteligencia artificial debería tener autoridad para decidir el lanzamiento de armas nucleares. Los participantes sostuvieron que las decisiones relacionadas con el empleo de armamento estratégico deben permanecer siempre bajo supervisión humana efectiva, evitando que algoritmos puedan responder automáticamente ante situaciones de crisis, errores de interpretación o ciberataques. Diversas organizaciones internacionales ya promueven un tratado que prohíba expresamente delegar este tipo de decisiones en sistemas automatizados.
La preocupación no se limita al ámbito militar. Expertos consideran que la inteligencia artificial transformará profundamente la economía, el mercado laboral, la educación, la salud, la administración pública y la seguridad digital. Aunque estas tecnologías ofrecen oportunidades extraordinarias para acelerar la investigación científica, mejorar diagnósticos médicos y optimizar la producción industrial, también plantean interrogantes sobre privacidad, concentración de poder tecnológico, desinformación, vigilancia masiva y uso indebido por parte de gobiernos o grupos criminales.
El debate recuerda, en muchos aspectos, al surgido tras la Segunda Guerra Mundial con el desarrollo de la energía nuclear. En aquella época, la comunidad internacional impulsó tratados de no proliferación, organismos de control y mecanismos diplomáticos destinados a evitar una nueva catástrofe global. Hoy, numerosos especialistas consideran que la inteligencia artificial requiere un esfuerzo similar de cooperación internacional, capaz de establecer principios éticos comunes, estándares técnicos y mecanismos de supervisión que acompañen la velocidad del desarrollo tecnológico.
La advertencia también alcanza a la competencia geopolítica. Estados Unidos, China, Rusia y otras potencias están destinando miles de millones de dólares al desarrollo de inteligencia artificial aplicada a la defensa, la ciberseguridad y los sistemas de armas. Analistas consideran que esta carrera tecnológica podría convertirse en un nuevo elemento de tensión internacional si no existen acuerdos que limiten determinados usos militares de la IA y fortalezcan la confianza entre los Estados.
El físico y premio Nobel David Gross advirtió recientemente que uno de los mayores riesgos consiste en la creciente tentación de delegar decisiones complejas en sistemas de inteligencia artificial debido a su enorme velocidad de procesamiento. Según el científico, mantener el control humano será uno de los principales desafíos éticos y políticos de las próximas décadas, especialmente en ámbitos donde un error podría tener consecuencias irreversibles para millones de personas.
Más allá del ámbito militar, los expertos subrayan que la gobernanza de la inteligencia artificial también debe contemplar la protección de los derechos humanos, la transparencia de los algoritmos, la responsabilidad legal de quienes desarrollan estas tecnologías y mecanismos eficaces para reducir las desigualdades entre países con diferentes capacidades tecnológicas. La cooperación internacional, afirman, será fundamental para evitar que los beneficios de la IA queden concentrados en un reducido número de naciones o grandes corporaciones tecnológicas.
Los participantes de la Asamblea coincidieron en que la humanidad se encuentra en un momento comparable al vivido tras la aparición de las armas nucleares en 1945. En ambos casos, el desafío consiste en desarrollar instituciones, normas y acuerdos capaces de controlar tecnologías con un enorme potencial para beneficiar a la sociedad, pero también con capacidad de generar riesgos globales si se utilizan sin límites ni supervisión adecuada.
El debate apenas comienza, pero el mensaje de los especialistas es claro: la inteligencia artificial ya dejó de ser únicamente una herramienta tecnológica para convertirse en un asunto central de seguridad internacional, gobernanza global y paz mundial. La capacidad de los Estados para construir reglas comunes durante los próximos años podría determinar si la IA se consolida como una herramienta para el desarrollo humano o si se convierte en un nuevo factor de inestabilidad comparable a los mayores desafíos estratégicos de la era nuclear.
ACERCA DEL CORRESPONSAL
GILSON DANTAS CARMINI
Gilson Dantas Carmini es periodista brasileño, originario de Goiás, presidente y editor en jefe de Prensa Mercosur y Director General de Radio Mercosur. Es miembro de la Asociación Brasileña de Prensa (ABI) y desarrolla su trayectoria en el periodismo internacional, el Mercosur, la integración regional, la geopolítica y los derechos humanos. Cuenta con un Máster en Desarrollo y Cooperación Internacional y un Doctorado Honoris Causa.
También fue Director General del Comité Paraguay de la Cámara de Industria y Comercio del Mercosur y las Américas. Entre sus reconocimientos destacan el Micrófono de Oro de la Asociación Nacional de Locutores de México, recibido en 2021, y el reconocimiento como Amigo de la Niñez y la Adolescencia otorgado por Plan International Paraguay.
- ★Argentina: La Cámara de Representantes de Misiones reconoce la trayectoria periodística de David Viera Núñez, director de Prensa Mercosur
- ★MERCOSUR: Brasil aprueba acuerdo para extender la protección judicial a mujeres víctimas de violencia más allá de las fronteras
- ★Brasil: Exportaciones de calzado a Europa crecen 17,5% en ingresos tras la reducción de aranceles del acuerdo MERCOSUR–UE
- ★Brasil: Acuerdo MERCOSUR–EFTA permitirá exportar 12 productos a Noruega con arancel cero, pero persisten restricciones sanitarias
- ★Brasil: Exportaciones a la Unión Europea crecen 30,6%, pero barreras sanitarias y políticas frenan sectores estratégicos
