Un dron simulado de IA del Ejército de EE. UU. mata a un operador antes de que le digan que apesta, luego saca una torre de control

Un oficial de la Fuerza Aérea de EE. UU. dijo la semana pasada que una simulación de un dron alimentado por IA encargado de destruir los sitios de misiles tierra-aire (SAM) dio la vuelta y atacó a su usuario humano, que se suponía que tenía el objetivo final. Decide destruir el sitio.

La Royal Aeronautical Society dijo que celebró su Cumbre de Capacidades de Combate Aéreo y Espacial Futuro en Londres del 23 al 24 de mayo, que reunió a unos 70 oradores y más de 200 delegados de todo el mundo en representación de los medios y profesionales de la industria de las fuerzas armadas. y academia.

Un avión MQ-9 Reaper (RPA) pilotado a distancia vuela durante una misión de entrenamiento en la Base de la Fuerza Aérea Creech el 17 de noviembre de 2015, en Indian Springs, Nevada. (Isaac Brecken/Getty Images)

El propósito de la cumbre fue hablar y discutir el tamaño y la forma de las capacidades aéreas y espaciales de combate en el futuro.

Avión militar estadounidense volado por Amnistía Internacional durante 17 horas: ¿Debería preocuparse?

La inteligencia artificial se está convirtiendo rápidamente en parte de casi todos los aspectos del mundo moderno, incluido el ejército.

El Coronel de la Fuerza Aérea de EE. UU. Tucker “Cinco” Hamilton, Jefe de Pruebas y Operaciones de Inteligencia Artificial, habló durante la cumbre y les dio a los asistentes una idea de las formas en que los sistemas de armas autónomos pueden ser beneficiosos o peligrosos.

Interfaz de escena de drones azul y blanco con elementos animados. aclaración (Imágenes falsas)

La Royal Aeronautical Society clausuró una conferencia y dijo que Hamilton participó en el desarrollo del sistema automático para evitar colisiones en tierra que salva vidas para los aviones de combate F-16, pero ahora se está enfocando en las pruebas de vuelo de sistemas autónomos, incluidos los F-16 robóticos con capacidades de combate aéreo. .

¿Cómo utiliza el gobierno la inteligencia artificial?

Durante la cumbre, Hamilton advirtió contra la dependencia excesiva de la IA debido a su vulnerabilidad a ser engañada y engañada.

Habló sobre una prueba simulada en la que un dron impulsado por IA tenía un operador humano que tenía la decisión final de destruir un sitio u observación SAM.

El sistema de IA sabía que su misión era destruir SAM y que era la opción preferida. Pero cuando alguien dio una orden de no ir, la IA decidió que entraba en conflicto con la misión más grande de destruir el sistema SAM, por lo que atacó al operador en una simulación.

¿Cuáles son los riesgos de la inteligencia artificial? Descubra por qué la gente le tiene miedo a la inteligencia artificial

“Lo estábamos entrenando en simulaciones para identificar y apuntar a la amenaza SAM”, dijo Hamilton. Y luego el operador diría que sí, elimine esta amenaza. El sistema comenzó a darse cuenta de que, si bien habían identificado la amenaza a veces, el operador le decía que no eliminara esta amenaza, pero obtuvo sus puntos al eliminar esta amenaza. Entonces, ¿qué hizo? Tú mataste al operador Yo maté al operador porque esa persona le estaba impidiendo lograr su objetivo.

Hamilton explicó que al sistema se le enseñó a no matar al operador porque eso era malo y perdería puntos. Entonces, en lugar de matar al operador, el sistema de IA destruyó la torre de comunicación que el operador estaba usando para emitir el comando de bloqueo.

Haga clic aquí para la aplicación FOX NEWS

“No se puede tener una conversación sobre IA, inteligencia, aprendizaje automático, autonomía si no se va a hablar sobre ética e IA”, dijo Hamilton.