La información inventada por el chatbot provocó un despliegue militar de los estadounidenses.
Una inteligencia artificialestuvo a punto de abrir un nuevo frente de conflicto entre Estados Unidos y China. Según detalló CNN, el ejército estadounidense desplegó aeronaves luego de que un chatbot informara que un buque del gigante asiático transportaba armas nucleares, información que luego fue desmentida.
La operación se canceló cuando los aviones militares de Estados Unidos avanzaban hacia su objetivo. El incidente ocurrió durante el conflicto de aquel país con Irán, en la primavera del hemisferio norte.
¿Por qué la inteligencia artificial inventó que el buque chino llevaba armas nucleares?
Siguiendo el repaso de TechCrunch, este episodio pone de relieve una preocupación creciente entre los mandos militares y los expertos externos. “A medida que quienes toman decisiones dependen más de la IA, los errores generados por estos sistemas pueden ascender por la cadena de mando antes de ser cuestionados”, señaló la fuente.
En este caso, la falsa alarma provino de un analista al mando de Operaciones Especiales en el Ejército de Estados Unidos, quien consultó a un chatbot de IA —el informe no especifica cuál— que sintetizó fuentes abiertas con información clasificada e identificó erróneamente la carga del barco. Luego de dar formato a los hallazgos con la misma herramienta, el reporte se distribuyó a los canales de mando.
El desliz se atribuye a las alucinaciones de la inteligencia artificial. Tal como explicamos anteriormente en Tecno, se trata de resultados incorrectos, inexactos o engañosos que generan los modelos de IA.
Esos errorespueden deberse a diferentes factores, como datos de entrenamiento insuficientes o incompletos, superposiciones incorrectas y sesgos en los datos utilizados para entrenar al modelo. Además, los modelos de IA también pueden ser vulnerables a ciberataques, en los que sus datos son manipulados.
Las alucinaciones pueden resultar triviales en ciertos usos —con repercusiones que no generan daños de magnitud—, y escalar en peligrosidad a medida que las herramientas de IA se utilizan para la toma de decisiones, en diversos sectores. El uso de estas tecnologías en el ámbito militar es un claro ejemplo de ello.
“Es importante que el personal militar comprenda la incertidumbre inherente a la IA”
El mencionado incidente se produjo en un momento en el que el Ejército de Estados Unidos integra crecientemente tecnologías automatizadas para acelerar sus acciones. En ese marco, el Pentágono describió a la IA como un factor que aporta una ventaja significativa, permitiendo a los comandantes responder en el momento oportuno.
“Es importante que el personal militar comprenda la incertidumbre inherente a los modelos de lenguaje de gran tamaño”, señaló Jake Steckler, veterano del Ejército estadounidense en diálogo con TechCrunch. “Esto resulta especialmente crítico en decisiones que podrían conducir al uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa. Esas decisiones conllevan consecuencias de vida o muerte”, advirtió.
“Priorizar la velocidad de adopción por encima de todo probablemente conducirá a incidentes que solo lograrán que el personal militar pierda la confianza en estos sistemas, lo que, a la larga, no hará más que ralentizar su adopción”, concluyó Steckler.
Recientemente, en el contexto del acalorado debate sobre los riesgos relacionados a los avances en inteligencia artificial, Donald Trump dijo que elegirá a un zar de la IA, al tiempo que desestimó los pedidos para regular los desarrollos en ese sector.