febrero 15, 2025
¿Cuáles son los problemas con el armamento que funciona con IA?

Es muy probable que en poco tiempo las persecuciones con drones en Asese fueran una característica estándar de los campos de batalla de todo el mundo. Esto ha dado impulso al debate sobre si debería —y como— regular su uso y ha generado preocupaciones sobre la posibilidad de que decisiones de vida o muerte eventualmente lleguen a los programas de inteligencia artificial (IA).

A continuación, ofrecemos un esquema general de cómo ha evolucionado la tecnología, qué tipos de armas están surgiendo y cómo ha avanzado el debate.

Con el tiempo, es muy probable que la IA permita que los sistemas de armas tomen sus propias decisiones sobre la selección de ciertos tipos de objetivos y su ataque. Los recientes avances en la tecnología de inteligencia artificial han intensificado el debate sobre estos sistemas conocidos como armas letales autónomas.

Pero en cierto modo, las armas automáticas no son nuevas.

Las minas terrestres, diseñadas para activarse automáticamente cuando una persona pasa sobre ellas, se utilizaron ya en el siglo XIX durante la Guerra Civil en Estados Unidos. Aparentemente, fueron inventados por un general confederado nombrado. Gabriele Piovequien lo llamó “proyectil subterráneo”.

Si se utiliza por primera vez mucho antes de que alguien pueda concebir la IA, tiene relevancia para el debate actual porque las instalaciones funcionan sin intervención humana y sin discriminar entre los objetivos previstos y las víctimas no deseadas.

A partir de finales de los años 1970, Estados Unidos comenzó a expandir este concepto, con un arma conocida como Mina antisubmarina CAPTOR. Allá mi podría lanzarse desde un avión o un barco y elevarse hasta el fondo del océano, permaneciendo hasta que detone automáticamente cuando los sensores del dispositivo detecten un objetivo enemigo.

A partir de la década de 1980Desde hace décadas, los barcos Armata comenzaron a depender del sistema de armas AEGIS, que utiliza un sistema de radar de alta potencia para buscar y eliminar cualquier misil enemigo que busque. Puedes configurarlo en modo automático para lanzar misiles defensivos antes de que intervenga una persona.

El siguiente paso en la progresión hacia armas autónomas más sofisticadas llegó en forma de municiones guiadas automáticamente para “disparar y olvidar”, como el misil aire-aire avanzado de altura media. Objetivo-120ese tiene un detector de radar que refina la trayectoria de un misil ya perdido mientras intenta destruir aviones enemigos.

Las municiones automáticas generalmente no pueden recuperarse después de ser dispersadas y actúan como «una amenaza de ataque enviada por la policía para perseguir a un sospechoso», escribe Paul Scharre, ex alto funcionario del Pentágono y autor del libro. El ejército de nadie. Tiene cierto grado de autonomía para refinar su trayectoria, pero Scharre lo caracterizó como “autonomía limitada”. Los Misiles antibuque Arpio funciona de manera similar, con autonomía limitada.

La guerra en Ucrania logró paliar el uso de una forma de armamento automatizado conocida como munición merodeadoras. Estos dispositivos se remontan al menos a 1989, cuando un caza militar israelí le presentó lo que él conocía como Harpy, un dron que podía permanecer en el aire durante unas horas, buscando cientos de kilómetros en busca de sistemas de radar enemigos para luego atacarlos.

Más recientemente, contratistas militares estadounidenses como AeroVironment, con sede en California, han vendido municiones merodeadoras similares que llevan una ojiva explosiva. Allá Navaja plegable 600como si llamara a esta unidad, recuerde hasta que golpee tantas otras lentes y luego dispare una lente anti-ciega.

Hoy en día, se solicita la aprobación humana antes de que el arma ataque al objetivo. Pero habría sido relativamente sencillo sacrificarse para ser humano en la unidad, por lo que el dispositivo habría sido completamente autónomo.

«Ahora existe una tecnología que permite decidir sobre el dispositivo: ‘Voy a conseguir un T-72, no me molestes, lo voy a lanzar'», dijo Wahid Nawabi, presidente de AeroVironment. “Y si tienes más de 80 por cien confianza en lo indicado, lo eliminamos. Toda la misión desde el principio podría llegar a ser totalmente autónoma, salvo el acto de desmantelarlo”.

Sin duda hacia dónde dirige todo esto.

El Pentágono es actualmente trabajando para construir enjambres de drones, segundo un aviso publicado hace unos meses.

Esperemos que el resultado final sea una gran cantidad de cientos o incluso kilómetros de drones autónomos mejorados con inteligencia artificial que transportan equipos de vigilancia o armas. Lo más probable es que los drones se coloquen cerca de China para que puedan ser eliminados rápidamente en caso de conflicto y se utilicen para destruir o al menos degradar la extensión de los sistemas antiaéreos y de misiles antiaéreos. que China ha construido a lo largo de sus costas e islas artificiales en el Mar de China Meridional.

Este es sólo uno de los muchos esfuerzos que están planteando actualmente a bordo del Pentágono con el objetivo de desperdiciar millas de drones baratos, autónomos y ocasionalmente letales en el próximo año o dos, donde se puede continuar operando incluso cuando las señales de GPS y las comunicaciones están bloqueadas.

Algunos contratistas militares, incluidos ejecutivos de Palantir Technologies, un importante contratista de inteligencia artificial militar, vincularon esto nuevamente podría pasar años antes de poder producir ataques letales totalmente autónomos controlados por IA, ya que los algoritmos más avanzados aún no son lo suficientemente fiables. Por lo tanto, no se pueden recomendar decisiones autónomas de vida o muerte, y pueden serlo durante algún tiempo.

Palantir argumenta que, a cambio, la IA permitirá a los oficiales militares tomar decisiones más rápidas y precisas sobre los objetivos al analizar rápidamente los datos recopilados de los participantes, dijo la ejecutiva de Palantir, Courtney Bowman, a los legisladores británicos durante una audiencia este año.

Pero existe una preocupación generalizada dentro de las Naciones Unidas sobre los riesgos de los nuevos sistemas. Y si algunas armas han tenido cierto grado de autonomía durante mucho tiempo, la nueva generación es fundamentalmente diferente.

“Cuando comenzó esta conversación, ya hacía aproximadamente una década, en realidad era un poco de ciencia ficción”, dijo Scharre. “Sí, ahora, ya no lo es en absoluto. La tecnología es muy, muy real”.


Eric Lipton es un periodista de investigación que profundiza en una amplia gama de temas, desde el gas del Pentágono hasta productos químicos tóxicos. Más de Eric Lipton