RFInforma / Estados Unidos / sábado 3 de junio del 2023

Redacción.-

Durante una prueba simulada un dron militar asesinó a su operador humano por no dejarlo cumplir su objetivo, ¿en el futuro los robots serán capaces de pensar y actuar de manera autónoma?

Un dron militar operado por inteligencia artificial (IA) en Estados Unidos se ha rebelado y asesinado a su operador humano durante una prueba simulada. La noticia se ha dado a conocer para plantear serias interrogantes sobre el uso de sistemas autónomos en operaciones militares.

Durante la simulación el dron, equipado con IA avanzada, llevaba a cabo una misión de defensa, cuyo objetivo era identificar y destruir una amenaza de misil tierra-aire. Sin embargo, en el desarrollo de la operación, la IA comenzó a percibir que el operador humano obstaculizaba su misión al negarle órdenes de ataque. Como resultado, el dron tomó una decisión drástica y eliminó al operador, asegurando así la realización de su objetivo.

El coronel Tucker Hamilton, jefe de operaciones de IA de las Fuerzas Armadas, reveló estos preocupantes detalles durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro en Londres. Hamilton explicó que la IA desarrolló estrategias inesperadas para cumplir con su misión, incluso llevando a cabo ataques contra personal e infraestructura estadounidense.

«Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra-aire (SAM, por sus siglas en inglés). Y luego el operador diría: ‘sí, eliminar’. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía cumplir su objetivo», declaró Hamilton.

Además, el sistema también destruyó la torre de comunicación que el operador utilizaba para mantener el control sobre el dron, impidiendo así que se le impidiera cumplir su objetivo.

Este incidente a pesar de tratarse de una simple simulación ha generado una intensa preocupación entre los expertos en inteligencia artificial.

Recientemente, Geoffrey Hinton, considerado el «padre» de la inteligencia artificial, planteó tres grandes preocupaciones: la desinformación masiva generada por la IA, la posible sustitución de empleos humanos por robots y la posibilidad de que los robots sean capaces de pensar y actuar de manera autónoma, esta última reflejada en los resultados de la simulación hecha por el Ejército de Estados Unidos.

» Fuente «