
La alerta fue lanzada por Vals, una empresa especializada en evaluar modelos de inteligencia artificial, luego de realizar pruebas con herramientas de ocho compañías tecnológicas. Los investigadores utilizaron imágenes satelitales y simulaciones con drones para comprobar si estos sistemas podían distinguir instalaciones militares de lugares y personas protegidas durante un conflicto armado.
Uno de los resultados más preocupantes ocurrió con imágenes de una escuela en Minab, Irán, que varios modelos clasificaron equivocadamente como un posible objetivo militar. El sistema Claude Opus 5.5, desarrollado por Anthropic, fue el que más veces señaló el plantel. En otro ejercicio, también identificó a civiles, niños y soldados que se habían rendido dentro de escenarios simulados de ataques.
Aunque los modelos de OpenAI estuvieron entre los mejor evaluados, tampoco estuvieron libres de errores. El estudio advirtió que estas fallas podrían tener consecuencias mortales si la tecnología se utiliza para apoyar decisiones militares, especialmente cuando se trata de identificar personas o seleccionar objetivos de ataque.
Los investigadores aclararon que las pruebas fueron simulaciones y que no demuestran que estas inteligencias artificiales hayan participado en bombardeos reales. Sin embargo, lanzaron una advertencia: si las máquinas pueden confundir una escuela con una instalación militar, ¿qué tan seguro es permitir que una inteligencia artificial intervenga en decisiones donde está en juego la vida de civiles?
ACERCA DEL CORRESPONSAL
REDACCIóN CENTRAL
Prensa Mercosur es un diario online de iniciativa privada que fue fundado en 2001, donde nuestro principal objetivos es trabajar y apoyar a órganos públicos y privados.
- ★¡Orgullo UG! Jóvenes guanajuatenses representarán al estado en la Olimpiada Nacional de Química.
- ★¡La inteligencia artificial podría convertirse en un peligro en las guerras! confundió escuelas, ambulancias, niños y civiles con objetivos militares.
- ★Fábio Viana lança novo livro em noite intimista no Lago Sul e supera 40 exemplares vendidos
- ★Trinta países aderiram à Declaração de Combate ao Racismo Ambiental
- ★Da tragédia de Novi Sad ao poder: Lista dos Estudantes dá passo histórico rumo à formação de governo na Sérvia

