La gran cumbre de IA de Gran Bretaña es un desastre obsesionado con el apocalipsis
La cumbre de Inteligencia Artificial en Gran Bretaña es un desastre obsesionado con el apocalipsis
El gobierno del Reino Unido, con sus cambios de rumbo en la política climática y en el compromiso con la perforación de petróleo y la contaminación del aire, parece estar a favor del apocalipsis. Pero últimamente, altos políticos británicos han estado de gira para salvar al mundo. El primer ministro Rishi Sunak, sus ministros y diplomáticos han estado informando a sus homólogos internacionales sobre los peligros existenciales de la superinteligencia artificial descontrolada, que, según advierten, podría diseñar armas biológicas, empoderar a autócratas, socavar la democracia y amenazar el sistema financiero. “No creo que podamos frenar la marea”, dijo el viceprimer ministro Oliver Dowden a las Naciones Unidas a finales de septiembre.
El pesimismo de Dowden tiene como objetivo buscar apoyo para la cumbre mundial sobre gobernanza de la inteligencia artificial del gobierno del Reino Unido, programada para el 1 y 2 de noviembre. El evento se presenta como el momento en que cambia el rumbo sobre el espectro de la IA asesina, una oportunidad para comenzar a construir un consenso internacional para mitigar ese riesgo. La cumbre es un evento importante para Sunak, quien ha proclamado su deseo de convertir al Reino Unido en “no solo el hogar intelectual, sino el hogar geográfico de la regulación global de seguridad de la IA”, junto con planes más amplios para crear un “nuevo Silicon Valley” y un “superpoder tecnológico”. Pero a poco más de una semana de su inicio, la cumbre parece estar a la vez cargada de pesimismo y decepcionante. Dos fuentes con conocimiento directo del contenido propuesto de las discusiones dicen que su iniciativa principal será un registro global voluntario de modelos de IA grandes, una iniciativa prácticamente ineficaz. Su capacidad para capturar la gama completa de los principales proyectos globales de IA dependería de la buena voluntad de las grandes empresas tecnológicas de Estados Unidos y China, que generalmente no están de acuerdo.
¿Cómo va tomando forma el resto de la cumbre? Fuentes cercanas a las negociaciones afirman que el gobierno de Estados Unidos está molesto porque el Reino Unido ha invitado a funcionarios chinos (al igual que algunos miembros del Partido Conservador en el poder en el Reino Unido). La lista de asistentes no se ha publicado, pero las principales empresas e inversores en el sector de la IA del Reino Unido están enfadados porque no han sido invitados, excluyéndolos de las discusiones sobre el futuro de su industria. Y ellos y otros expertos en IA argumentan que el enfoque del gobierno en la preocupación marginal de la catástrofe impulsada por la IA significa que el evento ignorará los riesgos del mundo real más inmediatos de la tecnología y todas sus posibles ventajas.
“No sé qué está aportando el Reino Unido en todo esto”, dice Keegan McBride, profesor de IA, gobierno y políticas en el Instituto de Internet de la Universidad de Oxford. “Son muy limitados en su enfoque”. Él y otros en la escena de la IA británica argumentan que sería mejor para el gobierno centrarse en cómo puede ayudar a las empresas de IA británicas a competir en un momento de rápido cambio y gran inversión en IA.
La agenda de la cumbre dice que cubrirá dos tipos de IA: aquella que tiene capacidades estrechas pero potencialmente peligrosas, como modelos que podrían usarse para desarrollar armas biológicas, y “IA fronteriza”, un concepto algo vago que el Reino Unido está definiendo como inteligencia artificial enorme y multipropósito que iguala o supera el poder de modelos de lenguaje grandes como el detrás de ChatGPT de OpenAI. Eso limita automáticamente la lista de asistentes. “Solo unas pocas empresas están haciendo esto”, dice McBride. “Casi todas son americanas o chinas, y la infraestructura que necesitas para entrenar este tipo de modelos está básicamente en manos de empresas estadounidenses como Amazon, Google o Microsoft”.
- Próximo Apple iPad Pro (2024) Todo lo que sabemos hasta ahora
- Apple albergará un evento de capacitación visionaria ‘secreto...
- Las características de generación de IA de Apple y una Siri más int...
ENBLE habló con más de una docena de expertos y ejecutivos británicos en IA. Ninguno había sido invitado a la cumbre. El único representante de la industria de IA del Reino Unido que se sabe que asistirá es Google DeepMind, que fue fundada en Londres pero adquirida por el gigante de las búsquedas en 2014. Eso está causando mucha frustración.
“Gran parte de la informática en la nube y de la infraestructura de las redes sociales del mundo pertenece a empresas estadounidenses, lo que ya pone a las empresas del Reino Unido y a los reguladores británicos en desventaja”, dice Duggal. Si se llegan a cerrar acuerdos que moldearán la industria sin que las empresas nacionales tengan ninguna influencia, es posible que la próxima generación de tecnología también termine concentrada en manos de unas pocas empresas estadounidenses enormes. “Un grupo de nosotros está bastante preocupado”, dice.
La opinión de Duggal fue compartida por otros en la industria de la IA en el Reino Unido, quienes se quejan de que la obsesión por los modelos frontera deja de lado “todo detrás de esa frontera”, según dice un ejecutivo de una startup de IA unicornio que habló bajo condición de anonimato porque todavía espera una invitación a la cumbre. Eso incluye a cada startup, cada equipo académico que desarrolla su propia IA y cada aplicación de la tecnología que actualmente es posible, dijo el ejecutivo. El enfoque en la frontera también excluye los modelos de lenguaje de código abierto, de los cuales se considera que los mejores están un poco detrás de los mejores disponibles pero se pueden descargar y utilizar, o utilizar de forma incorrecta, por cualquier persona.
El gobierno del Reino Unido ha prometido invertir más de $1 mil millones en iniciativas relacionadas con la IA, incluyendo financiamiento para desarrollar la industria local de semiconductores, una nueva supercomputadora en Bristol para apoyar la investigación en IA, y diversos grupos de trabajo y organismos de promoción. Cuánto ayudarán aún está por verse: los críticos señalan que en términos globales, no es una gran cantidad de dinero. Potenciar las industrias de chips y IA partiendo desde una posición de desventaja frente a los líderes en Estados Unidos y Asia con solo mil millones de dólares será un desafío. Además, los fondos no necesariamente están fluyendo hacia empresas británicas. En mayo, el CEO de Graphcore, una startup con sede en Bristol que fabrica chips especializados para IA, pidió al gobierno que asignara una parte de los fondos para los fabricantes del Reino Unido. Eso no sucedió, y este mes Graphcore advirtió que necesitaba una inyección de efectivo para mantenerse en actividad.
“Lo que es muy extraño es que el gobierno está diciendo que la IA puede hacer todo este tipo de cosas, que es tan poderosa que puede literalmente acabar con el mundo”, dice McBride de Oxford. “Pero uno esperaría que también estuvieran investigando cómo aprovechar su poder. El resto del mundo dependerá de Estados Unidos y el Reino Unido para averiguar cómo pueden utilizar estas cosas. Y en este momento, el Reino Unido realmente no tiene mucho que mostrar al resto del mundo”.
El parlamento del Reino Unido no ha comenzado a debatir ninguna regulación nacional de la IA a la escala de la Ley de IA de la Unión Europea, aunque el gobierno ha publicado un libro blanco que recomienda un conjunto de reglas menos restrictivas para promover el crecimiento en la industria. Pero todavía está lejos de convertirse en política o ley, y la UE ha marcado el ritmo.
“Es bastante vergonzoso que el Reino Unido no se esté reglando a sí mismo”, dice Mark Brakel, director de políticas en el Future of Life Institute, un grupo de expertos estadounidense que se centra en los riesgos existenciales. En Estados Unidos, hay propuestas concretas sobre regulación en el Senado. La Ley de IA de la UE está cerca de convertirse en ley. Brasil está desarrollando su propia regulación, al igual que China, dice Brakel. “Pero no tenemos nada en el Reino Unido. Si eres el anfitrión, creo que tendría sentido que fueras capaz de presentar algo tú mismo”.
Brakel, cuyo instituto estuvo detrás de una carta abierta muy comentada en marzo que pedía una pausa en el desarrollo de la IA, apoya mucho la idea de la cumbre. El instituto, respaldado por destacadas figuras de la tecnología, incluido el cofundador de Skype, Jaan Tallinn, ha sido muy activo en presionar a los gobiernos para que tomen en serio los riesgos existenciales. Pero incluso las esperanzas de Brakel para el resultado del evento en el Reino Unido son bastante limitadas. “Esto es, creo, Riesgo de IA 101”, dice Brakel. “Estaría muy feliz si todos los que salgan de esa cumbre estuvieran de acuerdo sobre cuáles son los riesgos más importantes y en qué deben centrarse”.
Eso puede no ser suficiente para Sunak, cuyo gobierno ha invertido un considerable capital político en la organización de la cumbre. La vicepresidenta de Estados Unidos, Kamala Harris, asistirá. Pero el Reino Unido también ha invitado a una delegación china, lo que al parecer ha enfadado a funcionarios estadounidenses que ven a Beijing como una amenaza estratégica. Informes en la prensa del Reino Unido sugieren que los funcionarios chinos solo podrán asistir a la mitad de la cumbre. Los funcionarios europeos también estarán presentes, aunque Francia organizará su propia cumbre de IA, organizada por el multimillonario de las telecomunicaciones Xavier Niel, dos semanas después de la del Reino Unido. El 18 de octubre, la Administración del Ciberespacio de China anunció su propia iniciativa mundial de gobernabilidad de la IA.
Las reuniones realizadas por países individuales también compiten con foros internacionales, como la ONU y el G7, que están buscando enfoques multilaterales para regular la IA. No está claro cómo se diferenciará el enfoque del Reino Unido o si es posible llegar a un acuerdo entre estados que pueda cambiar significativamente el rumbo del desarrollo de la IA en esta etapa tan temprana.
“Estoy completamente de acuerdo con la estrategia de [Sunak], que consiste en buscar un consenso internacional. Pero mi suposición es que el consenso internacional se formará solo en torno a los principios más amplios”, dice Jeremy Wright, ex ministro digital del Reino Unido por el Partido Conservador de Sunak. “Probablemente, si vas a hacer algo, probablemente debas hacerlo a nivel nacional antes de hacerlo a nivel internacional”.
Dos fuentes con conocimiento de las discusiones confirmaron las informaciones de Politico de principios de este mes de que Sunak presentará un Instituto de Seguridad de IA a los asistentes. Y, dijeron, el gobierno británico propondrá un registro de modelos fronterizos que permitiría a los gobiernos ver dentro de la caja negra de la IA fronteriza y adelantarse a cualquier peligro potencial. La iniciativa implicará solicitar a los desarrolladores de modelos que proporcionen acceso temprano a sus modelos para que puedan ser “equipo rojo” y evaluar los riesgos potenciales.
La mayoría de las grandes compañías estadounidenses ya se han inscrito en un compromiso del gobierno estadounidense sobre seguridad. No está claro por qué sentirían la necesidad de inscribirse en uno nuevo y comprometerse a entregar información propietaria valiosa a un organismo del Reino Unido.
Los críticos de la cumbre del juicio final del Reino Unido, incluidos miembros del gobernante Partido Conservador, temen que esté condenada al fracaso o, en el mejor de los casos, a la mediocridad. La verdadera razón, dicen, por la que la cumbre se ha apresurado es la política interna. Es algo que Sunak puede mostrar, o al menos fingir, que lidera al mundo en un momento en que está rezagado en las encuestas y se considera casi seguro que perderá el poder en las próximas elecciones. Varias fuentes internas señalan como evidencia de eso la elección del lugar, una mansión rural del siglo XIX asociada con una época en que el Reino Unido realmente era una potencia global líder en computación.
Bletchley Park fue donde los criptógrafos británicos de la Segunda Guerra Mundial descifraron el código “Enigma” de los nazis. El lugar está indeleblemente vinculado con una de las figuras más importantes de la informática británica, Alan Turing. Lo cual, sin duda, es la razón por la que el gobierno del Reino Unido eligió el lugar. Prácticamente, tiene menos sentido. Bletchley Park está a 80 kilómetros de Londres y, según un asesor del gobierno que habló bajo condición de anonimato porque todavía trabaja ocasionalmente para el Departamento de Ciencia y Tecnología, “es un fastidio llegar allí”. Pero esa distancia tampoco lo hace cómodamente remoto y seguro. Durante la Segunda Guerra Mundial, el campus estaba situado lejos de las miradas curiosas, pero ahora está en las afueras de Milton Keynes, una pequeña ciudad construida después de la guerra que desde hace mucho tiempo es objeto de chistes en el Reino Unido, sinónimo de monotonía de hormigón y famosa por su profusión de glorietas.
Es un lugar que, al igual que la cumbre en sí, sugiere para algunos que la simbología triunfó sobre el contenido. Un ejecutivo de tecnología, que habló bajo condición de anonimato porque aún esperaba hacer negocios con el gobierno, lo califica como “un gobierno a través de fotos para la prensa”. Se consuela con el hecho de que el Partido Conservador de Sunak es probable que pierda las próximas elecciones, que deben celebrarse antes de enero de 2025. “Habrán desaparecido en 18 meses”, dice.
