Hackeando los algoritmos de Inteligencia Artificial para ocultar y enmascarar activos militares 1q6d6c

Esta es la era de la vigilancia ubicua, los campos de batalla transparentes, los algoritmos de Inteligencia Artificial buscando con avidez objetivos a los que atacar y pronto (tan pronto como ya), la era de los drones autnomos y las municiones merodeadoras que han reducido enormemente el tiempo de decisin en el bucle OODA. Cmo desarrollar sistemas que sean (al menos imperfectamente) capaces de engaar a la primera ola de algoritmos de Inteligencia Artificial? Cmo envenenar y subvertir los sistemas de IA a bordo de los sistemas autnomos del enemigo?

Hackers en la era de los sistemas de armas autnomos 2r3k35

Nos gusta ver a Kallisto Shield como el primer sistema defensivo diseado especficamente para engaar y hackear los algoritmos de IA/ML (por Machine Learning) de visin artificial que son utilizados en la deteccin, identificacin y seleccin de activos militares por los primeros sistemas autnomos militares (drones autnomos o semiautnomos que localizan y realizan el guiado terminal para destruir objetivos).

El Pentgono y otras fuerzas armadas de todo el mundo son muy conscientes de las limitaciones de la generacin actual de algoritmos de IA/ML y de las arquitecturas existentes de visin artificial. Incluso si la generacin actual de algoritmos basados en redes neuronales convolucionales y transformadores de visin es ms eficiente que el analista humano en la deteccin e identificacin de objetos, llevar algn tiempo desarrollar la prxima generacin de algoritmos de IA para la deteccin de objetivos que sean capaces de evitar ser confundidos por "mentes humanas":

Un algoritmo de aprendizaje automtico entrenado para reconocer ciertos vehculos en imgenes satelitales, por ejemplo, tambin podra aprender a asociar el vehculo con un determinado color del paisaje circundante. Un adversario podra engaar a la IA cambiando el escenario alrededor de sus vehculos. Con el a los datos de entrenamiento, el adversario tambin podra implantar imgenes, como un smbolo en particular, que confundiran al algoritmo.[1] (1)

Inyectar imgenes envenenadas (llammoslas seuelos) de forma similar a los Ataques de Inyeccin Rpida (Prompt injection Attack), permite envenenar el entrenamiento de los algoritmos de aprendizaje automtico e Inteligencia artificial. Podemos llamar a este tipo de engao Ataque por inyeccin de caractersticas (Feature Injection Attack). Tengamos en cuenta que no estamos considerando solo imgenes RGB, sino tambin imgenes recogidas por cmaras trmicas, IR, SAR (radar de apertura sinttica) y cualquier otra salida de un sensor utilizado en la fusin de datos que alimenta a cualquier algoritmo de deteccin de objetivos (targeting).

Esta es una muy buena manera de aumentar la clasificacin errnea de los algoritmos inteligencia artificial utilizados en la deteccin de objetivos y una buena manera de manipular y aumentar los defectos de los sistemas de inteligencia artificial actuales (sobre los futuros no podemos obviamente emitir una opinin) debido al diseo interno de sus algoritmos.

Una estrategia ms astuta es impedir el entrenamiento de los algoritmos de IA impidiendo la recopilacin de conjuntos de datos de entrenamiento. Podemos llamar a esta parte de la estrategia del engao "disimulo", el hecho de tratar de ocultar tus verdaderos sentimientos, carcter, intenciones... o caractersticas. No hay que olvidar que las caractersticas se utilizan y son el punto de partida de cualquier algoritmo de visin artificial.

Una tercera estrategia es la simulacin, el acto de mostrar una caracterstica o firma (electromagntica) para ofuscar la identidad, la ubicacin o accin de un activo militar, es decir, crear una situacin o evento que parece real pero no lo es.

El disimulo y la simulacin generalmente se realizan en conjunto. Siempre se mostrar algo (ya sea un objetivo o una pantalla de radar en blanco) mientras que la verdadera firma estar oculta. Al usar ambos mtodos, podemos crear ambigedad o duda en los sistemas del enemigo con notable eficiencia. Reconociendo que nuestro mundo contina dirigindose hacia ms y ms datos, los ejrcitos deben tomar decisiones conscientes (y rpidas en nuestra opinin) en relacin a los datos que se ponen libremente a disposicin de los medios de adquisicin enemigos (satlites, drones, globos de gran altitud).

Debemos permitir que los sensores de nuestros enemigos adquieran las firmas electromagnticas de nuestras unidades, nuestros puestos de mando y nuestros vehculos?

Espectro electromagntico (Kallisto IA)

En Kallisto AI creemos que las alteraciones fsicas, el camuflaje, la ocultacin y el engao pueden resultar tiles para derrotar las primeras aplicaciones del anlisis de datos y la recopilacin de firmas impulsados por IA. Nuestro sistema Kallisto Shield:

1. Limita la adquisicin de firmas electromagnticas de activos militares por parte de cualquier sensor y oculta la firma real para enmascarar el activo militar (disimulo).
2. Muestra diferentes firmas para ofuscar la identidad del activo militar (simulacin).
3. Inyecta firmas envenenadas (seuelos) en la fase de entrenamiento de los algoritmos de inteligencia artificial de nuestros enemigos.

Y cmo un sistema prcticamente mecnico puede conseguir estos efectos?

1. Al cubrir nuestros activos militares (ya sea un vehculo, un polvorn avanzado o un puesto de mando) con un superior, estamos evitando la adquisicin de la firma electromagntica de dichos elementos. Asimismo, estamos ocultando la verdadera firma electromagntica.
2. Al modificar el orden de los es (no olvidemos que cada es de un material diferente, y por lo general de un material estndar y de amplio uso civil), estamos mostrando diferentes firmas en todo el espectro.
3. Al permitir la captura de la firma electromagntica del conjunto Kallisto Shield instalado sobre el activo militar, estamos inyectado firmas errneas en la fase de entrenamiento de los algoritmos de deteccin de nuestros enemigos.

es Kallisto (Kallisto IA)

Como efectos secundarios adicionales, Kallisto Shield puede ayudar a confundir a algunas armas enemigas (engao), es decir, municin merodeadora de gama media/baja que utilice algoritmos de visin artificial (por ejemplo los Lancet rusos) para detectar, apuntar y destruir objetivos militares. Esto es debido a que aumenta la probabilidad de detectar un seuelo usando Kallisto Shield como si fuera un vehculo real usando Kallisto Shield.

Nuestro objetivo es por lo tanto romper la primera etapa de la cadena de ataque o kill chain.

Kallisto Shield est protegido por el Tratado de Cooperacin en materia de Patentes (PCT), con solicitudes de patente nacionales presentadas en los principales mercados de defensa mundiales (en azul en el siguiente mapa) como son Europa, los Estados Unidos de Amrica, Ucrania, China, Arabia Saudita, Australia e India. Informacin adicional sobre Kallisto Shield est disponible en la pgina de producto.

Propiedad Intelectual (Kallisto IA)

(Ral lvarez, Director General de Kallisto IA y profesor del curso de Inteligencia Artificial para la Defensa en CISDE)