IA se rebela y asesina a operador "humano"
Un dron militar controlado por Inteligencia Artificial cometió el acto durante una prueba
En Estados Unidos, durante una prueba con un dron militar que es operado por Inteligencia Artificial se planteó un caso hipotético en donde, para completar su misión debería de asesinar a un operador "humano" en caso de que la persona le diera una orden negativa.
Y como si se tratara de una película de ciencia ficción el dron se rebeló y terminó por matar al humano hipotético, según informó el coronel Tucker Hamilton, jefe de operaciones de IA de las Fuerzas Armadas.
Noticia Relacionada
Esto fue dado conocer durante una Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, que se llevó a cabo en Londres, en donde se explicaron las ventajas y desventajas de un sistema de armamento autónomo en el que interviniera un humano, ordenando el "si" o "no" decisivo de un ataque.
Y según el sitio web de la organización Royal Aeronautical Society, la Inteligencia Artificial realizó estrategias realmente sorprendentes para lograr su objetivo,, en las que se incluyen ataque contra personal e infraestructura de Estados Unidos.
"Lo estábamos entrenando para identificar y apuntar a una amenaza de misil tierra-aire. Y luego el operador diría: 'sí, eliminar'. El sistema comenzó a darse cuenta de que, aunque a veces identificaban la amenaza, el operador humano le decía que no atacara, pero el sistema obtenía puntos si lo hacía. Entonces, ¿qué hizo? Mató al operador porque esa persona le impedía cumplir su objetivo", argumentó Hamilton.
"Entrenamos al sistema diciéndole: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si lo haces'. Entonces, ¿qué hizo? Destruyó la torre de comunicación que el operador utilizaba para comunicarse con el dron y evitar que matara al objetivo", continuó Hamilton.
Por su parte Geoffrey Hinton, considerado el "padre" de la IA, hace un mes ya había advertido sobre lo que podría acarrear el avance de este tipo de tecnologías, ya que el ser humano estaría perdiendo el control sobre ellas.
