La alucinación de IA sobre componentes nucleares chinos casi provocó un ataque militar estadounidense

Un analista del Comando de Operaciones Especiales de EE. UU. presentó un informe de inteligencia que, según fuentes citadas por CNN, afirmaba que un buque chino transportaba componentes de un programa nuclear a través del Oriente Medio. El documento se elaboró con la ayuda de herramientas de inteligencia artificial, pero un chatbot incorporado en el proceso identificó erróneamente la carga, describiéndola como material nuclear cuando en realidad no lo era. La información falsa llevó a que las fuerzas militares estadounidenses planearan interceptar y abordar el barco, incluso con apoyo aéreo, antes de que se detectara la equivocación. Un testigo cercano describió el episodio como un “casi inicio de guerra” provocado por la alucinación del algoritmo. La situación se resolvió cuando se descubrió la falla del modelo de IA y se abortó la operación.

Este incidente subraya la vulnerabilidad de los procesos de toma de decisiones estratégicas cuando dependen de sistemas de IA sin supervisión adecuada. La falta de verificación humana puede generar errores críticos que, en contextos de seguridad internacional, podrían escalar rápidamente y poner en riesgo la estabilidad geopolítica.

Leer artículo original en Ars Technica AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.