Gary Gensler pide que Estados Unidos regule los riesgos de la IA para la estabilidad financiera
Gary Gensler urge a Estados Unidos a regular los riesgos de la inteligencia artificial para proteger la estabilidad financiera
Los principales reguladores han advertido que la rápida adopción de la inteligencia artificial (IA) en el sector financiero podría plantear riesgos significativos para la estabilidad financiera y dar lugar a otra crisis en la próxima década.
En una reciente entrevista con el Financial Times, Gary Gensler, presidente de la Comisión de Valores y Bolsa de Estados Unidos (SEC), señaló que la concentración de poder en unos pocos plataformas dominantes de IA está creando riesgos sistémicos peligrosos que podrían desencadenar una crisis a finales de los años 2020.
Según Gensler, es “casi inevitable” que la IA provoque una crisis financiera en menos de una década. Lo que preocupa a los reguladores es la posibilidad de un comportamiento en masa si muchas empresas se basan en los mismos modelos de IA subyacentes y agregadores de datos.
Por ejemplo, los prestamistas hipotecarios podrían utilizar todos un sistema de IA de una empresa tecnológica para evaluar la solvencia crediticia. Si ese modelo tiene fallos, podría provocar un aumento en los impagos y amenazar el mercado inmobiliario.
Creo que en el futuro tendremos una crisis financiera… y en los informes posteriores las personas dirán ‘¡Eureka! Había un único agregador de datos o un único modelo en el que hemos confiado’. Tal vez sea en el mercado hipotecario. Tal vez sea en algún sector del mercado de valores
Gensler agregó que la “economía de redes” de la IA hace que este escenario sea probable. Cuantas más empresas utilicen un sistema de IA, mejores serán sus predicciones con más datos. Esto crea un entorno en el que uno o dos modelos de IA dominan una industria.
El problema de regular los riesgos “horizontales” de la IA
Gran parte de la regulación financiera actual se centra en empresas y sectores individuales, lo que plantea desafíos para supervisar los riesgos de IA que atraviesan mercados.
Francamente, es un desafío difícil… Es un problema difícil de estabilidad financiera de abordar porque la mayoría de nuestra regulación se trata sobre instituciones individuales, bancos individuales, fondos monetarios individuales, corredores individuales; es simplemente parte de lo que hacemos. Y esto se trata de un problema horizontal en el que muchas instituciones podrían confiar en el mismo modelo base subyacente o agregador de datos.
La SEC ha propuesto exigir a los corredores y asesores de inversión que revelen posibles conflictos de intereses en sus análisis predictivos. Pero Gensler dijo que esto “aún no aborda este problema horizontal” de dependencias de IA interconectadas.
Los reguladores estadounidenses están explorando ahora la coordinación entre agencias y nuevos marcos de supervisión para monitorear los riesgos sistémicos de la IA, aunque el progreso ha sido lento. Gensler ha planteado el tema en organismos internacionales como el Consejo de Estabilidad Financiera.
Los riesgos de concentración de la IA “como servicio”
Otra preocupación es la consolidación del suministro de IA entre las grandes empresas tecnológicas. Empresas como Google, Amazon y Microsoft cuentan con una robusta infraestructura en la nube para alojar modelos de IA complejos y venderlos “como servicio” a instituciones financieras.
¿Cuántos proveedores de servicios en la nube [que tienden a ofrecer IA como servicio] tenemos en este país?
Esta concentración crea puntos únicos de fallo. Si un modelo de IA en los servidores de Amazon tiene problemas, podría afectar a muchos bancos, aseguradoras y empresas de comercio que dependen de él.
Europa lidera en la gobernanza de la IA
Mientras los reguladores estadounidenses siguen estudiando los riesgos de la IA, Europa ha tomado medidas más decisivas. Este año, la Unión Europea está a punto de aprobar legislación que impone estrictos requisitos en cuanto a transparencia, privacidad de datos y reducción de sesgos en los sistemas de IA.
El presidente de la SEC tiene una ambiciosa agenda regulatoria que aborda cuestiones como la divulgación del cambio climático, la supervisión de las criptomonedas y las normas de capital privado, todas las cuales enfrentan desafíos legales. Asegurar la estabilidad de la IA puede ser uno de los desafíos más complejos para los reguladores estadounidenses en los próximos años.
Crédito de la imagen destacada: Tara Winstead; Pexels; ¡Gracias!
