Las principales empresas de inteligencia artificial se comprometen a combatir el terrorismo en línea
Las empresas líderes en inteligencia artificial se comprometen a luchar contra el terrorismo en línea
Con el objetivo de frenar el terrorismo en línea, gigantes de la IA como OpenAI y Anthropic se han comprometido a apoyar el Llamado a la Acción de Christchurch. Iniciativa propuesta por el presidente francés Emmanuel Macron y la entonces primera ministra de Nueva Zelanda Jacinda Ardern, en respuesta a los trágicos disparos en la mezquita de Christchurch, Nueva Zelanda, en 2019.
Aumento de la amenaza del terrorismo en línea
El compromiso de estas compañías de IA es crucial, ya que los líderes gubernamentales e industriales reconocen el riesgo inevitable de que los terroristas y extremistas violentos exploten las tecnologías avanzadas de IA. Eventos recientes, como los ataques de Hamás a Israel desde el 7 de octubre, han visto una “enorme cantidad” de contenido terrorista propagado en línea, lo que ha levantado alarmas sobre la necesidad de contramedidas sólidas.
Jacinda Ardern, en una discusión con Axios en París, enfatizó el potencial papel de la IA en la mitigación de las actividades terroristas. Destacó la industria emergente de tecnología de seguridad, las soluciones de código abierto de bajo costo y la colaboración entre Microsoft y Tech Against Terrorism para mejorar el servicio de seguridad de contenido de IA de Azure.
En una cumbre en París, OpenAI y Anthropic se unieron oficialmente al Llamado de Christchurch, junto con otras entidades tecnológicas como Discord y Vimeo. Esto sucede después de que plataformas recibieran críticas por no controlar adecuadamente el contenido extremista, especialmente después del ataque de Christchurch transmitido en vivo en Facebook.
Protocolos efectivos de respuesta a crisis
Un protocolo de respuesta a crisis desarrollado por los signatarios del Llamado de Christchurch jugó un papel clave en la eliminación completa de las imágenes transmitidas en vivo de un tiroteo masivo en un supermercado de Buffalo en 2022. A pesar de estos esfuerzos, Ardern señala deficiencias recientes en la correcta implementación de estos protocolos.
- Apple lanza la tercera beta de tvOS 17.2 para desarrolladores
- Mira al GDPR para predecir el futuro de la IA en Europa
- Los hackers aprovechan el interés de la IA en estafa de malware, Go...
Tech Against Terrorism estima que se crean alrededor de 5,000 piezas de contenido terrorista generado por IA semanalmente. Una preocupación significativa es el potencial de que las herramientas de IA ayuden a los grupos terroristas a evadir los sistemas automatizados de identificación de contenido, lo que aumenta la presión sobre las plataformas tecnológicas en la lucha contra el extremismo en línea.
El compromiso del Llamado de Christchurch
El llamado original se enfoca en implementar medidas inmediatas para prevenir la propagación de contenido extremista, especialmente a través de transmisiones en vivo. Ardern, reflexionando sobre la masacre de Christchurch, pide un esfuerzo sostenido e innovación en la lucha contra el terrorismo en línea.
Ardern se identifica como una “tecnóloga pragmática”, reconociendo el escepticismo en torno a la IA y las redes sociales. Aboga por que las compañías de IA sean proactivas, reconociendo los posibles daños y trabajando en soluciones preventivas en lugar de soluciones posteriores.
Aunque la IA ofrece opciones más rápidas y potencialmente más confiables que los moderadores humanos para detectar contenido extremista, las compañías y gobiernos que participan en el Llamado de Christchurch tienen requisitos mínimos de informes. Esta falta de supervisión permite reducir la moderación de contenido, incluso cuando las compañías reciben reconocimiento por su participación.
Inclusión y estándares globales
El Llamado, aunque promueve un internet libre, abierto y seguro, plantea desafíos para gobiernos y compañías no democráticas en países similares. Ardern sugiere que estas entidades aún pueden aplicar los estándares del Llamado sin unirse formalmente, asegurando una adhesión más amplia a sus principios.
