El auge de la IA generativa podría alimentar una nueva carrera armamentista internacional
Rise of generative AI could fuel a new international arms race
Los gobiernos de todo el mundo se apresuran a adoptar los algoritmos que le dieron cierta apariencia de inteligencia a ChatGPT, aparentemente cautivados por el enorme beneficio económico esperado de la tecnología.
Dos nuevos informes publicados esta semana muestran que los estados-nación también están probablemente apresurándose a adaptar la misma tecnología en armas de desinformación, lo que podría convertirse en una preocupante carrera armamentista de IA entre las grandes potencias.
Investigadores de RAND, un grupo de expertos sin fines de lucro que asesora al gobierno de Estados Unidos, señalan pruebas de un investigador militar chino con experiencia en campañas de información que discute públicamente cómo la IA generativa podría ayudar en dicho trabajo. Un artículo de investigación, de enero de 2023, sugiere el uso de modelos de lenguaje grandes como una versión afinada de BERT de Google, un precursor de los modelos de lenguaje más potentes y capaces que impulsan chatbots como ChatGPT.
“No hay evidencia de que se esté haciendo en este momento”, dice William Marcellino, experto en IA y científico social y de comportamiento senior en RAND, quien contribuyó al informe. “Más bien alguien está diciendo, ‘Aquí hay un camino a seguir'”. Él y otros en RAND están alarmados por la perspectiva de que las campañas de influencia adquieran nueva escala y poder gracias a la IA generativa. “Crear un sistema para crear millones de cuentas falsas que pretenden ser taiwanesas, estadounidenses o alemanas, y que están impulsando una narrativa estatal, creo que es cualitativa y cuantitativamente diferente”, dice Marcellino.
- El Gobierno del Reino Unido niega cambio de rumbo en el plan de esc...
- Ford está construyendo una versión de rally del Mach-E
- Las 5 mejores piscinas elevadas para cualquier patio trasero
Las campañas de información en línea, como la que llevó a cabo la Agencia de Investigación de Internet de Rusia para socavar las elecciones de Estados Unidos en 2016, han existido durante años. En su mayoría, han dependido del trabajo manual: trabajadores humanos que trabajan en teclados. Pero los algoritmos de IA desarrollados en los últimos años podrían producir en masa texto, imágenes y videos diseñados para engañar o persuadir, incluso llevar a cabo interacciones convincentes con personas en plataformas de redes sociales. Un proyecto reciente sugiere que lanzar una campaña de este tipo podría costar solo unos cientos de dólares.
Marcellino y sus coautores señalan que muchos países, incluidos Estados Unidos, casi seguramente están explorando el uso de la IA generativa para sus propias campañas de información. Y la amplia accesibilidad de herramientas de IA generativa, incluidos numerosos modelos de lenguaje de código abierto que cualquiera puede obtener y modificar, reduce la barrera para cualquiera que quiera lanzar una campaña de información. “Una variedad de actores podrían usar la IA generativa para la manipulación de las redes sociales, incluidos actores no estatales técnicamente sofisticados”, escriben.
Un segundo informe emitido esta semana, por otro grupo de expertos centrado en tecnología, el Proyecto de Estudios Competitivos Especiales, también advierte que la IA generativa podría convertirse pronto en una forma para que las naciones se muestren superioridad entre sí. Insta al gobierno de Estados Unidos a invertir fuertemente en IA generativa porque la tecnología promete impulsar muchas industrias diferentes y proporcionar “nuevas capacidades militares, prosperidad económica e influencia cultural” para la nación que la domine primero.
Al igual que el informe de RAND, el análisis de SCSP también llega a algunas conclusiones sombrías. Advierte que el potencial de la IA generativa probablemente desencadenará una carrera armamentista para adaptar la tecnología para su uso en militares o ciberataques. Si ambos están en lo correcto, nos dirigimos hacia una carrera armamentista en el espacio de la información que puede resultar particularmente difícil de contener.
¿Cómo evitar el escenario de pesadilla de que Internet sea invadido por bots de IA programados para la guerra de la información? Requiere que los humanos hablen entre sí.
El informe de SCSP recomienda que Estados Unidos “lidere el compromiso global para promover la transparencia, fomentar la confianza y fomentar la colaboración”. Los investigadores de RAND recomiendan que los diplomáticos estadounidenses y chinos discutan la IA generativa y los riesgos en torno a la tecnología. “Puede que sea de interés para todos nosotros no tener un Internet totalmente contaminado e increíble”, dice Marcellino. Creo que eso es algo en lo que todos podemos estar de acuerdo.
