Supuestamente, la inteligencia artificial (IA) viene a por todos nuestros trabajos. Bueno, quizá no para todos. Hace poco, unos investigadores pusieron a la IA al mando de su satélite para tomar imágenes de objetivos desde la Tierra, y tomó una ruta que les desconcertó por completo.
O está operando con una inteligencia mucho más allá de nuestra comprensión, o simplemente no tiene sentido.
El informe procede de investigadores chinos, que describen su trabajo en un artículo publicado en el South China Morning Post, en el que dan a la IA el control de un satélite durante 24 horas. Técnicamente, esto infringe las normas de planificación de misiones, pero los investigadores lo admiten libremente y no parecen muy preocupados.
La intervención humana no debería ser necesaria para la IA, que se encargó de controlar los movimientos del satélite y observar zonas de interés en tierra.
El satélite de observación Qimingxing 1 gozaba de total autonomía, lo que nos permite espiar la mente de la IA y averiguar qué le parece interesante.
Según el equipo, el Qimingxing 1, controlado por la IA, eligió lugares concretos y los examinó a fondo, aunque no saben exactamente por qué.
Se centró en Patna, una gran ciudad antigua a orillas del río Ganges, en la India, mostrando un interés específico por esa zona. Aunque la IA no estaba programada para explicar sus acciones, es posible que eligiera Patna debido a un fatal conflicto fronterizo que tuvo lugar en 2020 entre China y la India, lo que indica un posible sesgo militar en otros intereses de la IA.
Según el SCMP, la IA también se fijó en Osaka, un puerto japonés que acoge ocasionalmente buques de la Armada estadounidense que operan en el Pacífico.
Por lo que sabemos, es la primera vez que se da a la IA el control total de un satélite de observación sin instrucciones ni tareas específicas. Aunque la IA se utiliza cada vez más en determinadas funciones, como el procesamiento de imágenes y la evitación de colisiones, los investigadores creen que ésta es una oportunidad perdida para explorar su potencial. Sin embargo, debido a lo mucho que está en juego, es probable que se necesite una demostración exhaustiva para que los investigadores confíen plenamente en el control de la IA.
Cabe destacar que la IA tenía pleno control sobre la cámara, pero no podía alterar la trayectoria del satélite ni su órbita.
Los investigadores esperan que su trabajo ayude a evitar el despilfarro de recursos en los 260 satélites de teledetección que opera China en la actualidad, que a menudo permanecen inactivos o desempeñan funciones de escaso valor.
Sugieren que la IA podría utilizarse en sistemas de observación y vigilancia, incluida la alerta a la defensa nacional sobre actividades militares.
Sin embargo, ante el aparente gran interés de la IA por las actividades militares y los acontecimientos históricos terrestres, esta idea no parece fantástica. La IA, en su forma actual, no «piensa», por lo que no buscará objetivos militares para destruir impulsada por una tendencia sádica a la violencia.
Si bien es posible que la IA haya sido entrenada en la historia militar sin revelar, lo que representa exactamente esta «IA» no se revela, ya que el término se ha vuelto tan amplio que puede abarcar cualquier cosa, desde un programa básico de selección de objetivos a algo como el GPT-4.
Los investigadores no tienen ni idea de por qué se eligieron estos lugares, y entregar el control total a una IA que es incapaz de entender a los humanos, sus complejas interacciones y todo lo que vaya más allá de un conjunto de datos de entrenamiento, parece un plan preocupante en estos momentos.
