IA y tú Altman dice que la humanidad necesita resolver la seguridad de la IA, la UE está de acuerdo con la ‘ley histórica’ sobre la IA.
IA y tú Altman afirma que la humanidad debe abordar la seguridad de la IA, la UE respalda la ley histórica sobre la Inteligencia Artificial.
Ha pasado un minuto desde que Sam Altman, CEO de OpenAI, fue destituido, regresó cinco días después y luego restableció la junta directiva del fabricante de ChatGPT. Si, como la mayoría del mundo, no has estado siguiendo los giros de la trama después de que la junta lo despidiera por no ser “consistentemente sincero” en sus comunicaciones, no te preocupes. Hay muchas miradas desde adentro, cronogramas y análisis sobre la saga, y sobre los hombres que tienen papeles protagonistas en el futuro de la IA, incluyendo a Altman; el cofundador de Microsoft, Bill Gates, y el CEO, Satya Nadella; el dueño de Twitter/X, Elon Musk; el cofundador de Google, Larry Page; los capitalistas de riesgo Reid Hoffman y Peter Thiel; y el CEO de Meta, Mark Zuckerberg.
Pero el resumen simple es este: poder, ego y dinero enfrentados a preocupación y ética. OpenAI tiene una valoración de más de $85 mil millones, y sus inversores, incluyendo a Microsoft, no querían ver que eso se disipara con la partida de Altman, lo que provocó una revuelta del personal y una posible fuga de talentos en la startup. Al mismo tiempo, los investigadores, ingenieros y éticos que trabajaban en la tecnología eran cautelosos y conscientes de sus posibles implicancias para el futuro de la humanidad, que no son todas positivas, y de cómo el líder de OpenAI estaba impulsando la tecnología.
“El debacle de OpenAI ha demostrado que construir sistemas de IA está poniendo a prueba si los empresarios que quieren ganar dinero pueden trabajar en sincronía con los investigadores que se preocupan de que lo que están desarrollando eventualmente pueda eliminar empleos o convertirse en una amenaza si tecnologías como las armas autónomas se descontrolan,” escribió The New York Times en su resumen de los Cinco Días de Caos.
“La crisis en OpenAI está personificando una pregunta que ha estado hirviendo dentro de la industria de la IA y ha creado angustia entre los gigantes tecnológicos y los líderes mundiales: ¿En quién se puede confiar para abrir la caja de Pandora que representa la inteligencia artificial?” señaló el Wall Street Journal en su investigación detrás de escena.
El enfoque de la revista The Atlantic lleva este titular: El dinero siempre gana.
- La violación de datos de 23andMe se vuelve cada vez más aterradora ...
- Cómo este minorista utiliza el aprendizaje automático y la visión p...
- Tomé un viaje mágico de realidad virtual de Meow Wolf, ¡y tú tambié...
Altman, que estaba en la lista corta para ser persona del año de la revista Time, dijo a What Now? con Trevor Noah esta semana (12 días después de su despido y recontratación) que recibió tantos mensajes en los 30 minutos posteriores a ser despedido que su iPhone “se rompió”.
“Estaba en mi habitación de hotel, recibí esta llamada, no tenía idea de lo que iba a ser, y la junta me despidió. Se sintió como un sueño. Estaba confundido. Fue caótico. No se sentía real. Obviamente, estaba molesto y dolorido. Pero la confusión era, simplemente, como, la emoción dominante en ese momento… simplemente en una niebla, en una bruma. Estaba, como, no entendía lo que estaba sucediendo. Sucedió de esta manera, como, de una manera en mi opinión, loca e inaudita. Y luego, en los siguientes, como, treinta minutos, mi teléfono —recibí tantos mensajes que iMessage colapsó en mi teléfono. Todavía estoy, como, un poco en estado de shock y un poco tratando de, como, recoger las piezas. Ya sabes, estoy seguro de que a medida que tenga tiempo para, como, sentarme y procesar esto, tendré muchos más sentimientos al respecto.”
En la conversación de una hora, Noah también preguntó sobre las preocupaciones de que genAI causará el apocalipsis. Hay muchas preguntas sobre el debut de ChatGPT en noviembre de 2022, y si la empresa había pensado en las implicaciones antes de iniciar una carrera armamentista en Silicon Valley, provocando que Meta, Google y Microsoft aceleraran y aceleraran su desarrollo de IA. “La velocidad es aún más importante que nunca”, dijo un ejecutivo de Microsoft a los empleados, según The New York Times. Supuestamente, sería “un error absolutamente fatal en este momento preocuparse por cosas que se pueden solucionar más adelante”.
Pero, ¿todo se puede arreglar después? Altman, de 38 años, le dijo a Noah que no es exactamente posible hacer que la IA generativa sea completamente segura. “Decimos que los aviones son seguros, pero los aviones todavía se estrellan muy raramente, increíblemente raramente para mí. Decimos que los medicamentos son seguros, pero … la FDA aún certificará un medicamento que puede causar la muerte de algunas personas a veces. Y así, la seguridad es como la sociedad decidiendo que algo es aceptablemente seguro, dadas las compensaciones riesgo-recompensa. Y eso, creo, podemos lograrlo. Pero no significa que las cosas no vayan a salir realmente mal”.
En cuanto a su escenario de pesadilla, Altman dijo que las compensaciones riesgo-recompensa significan que la humanidad tendrá que descubrirlo. “La sociedad tiene, como, en realidad un proceso bastante bueno —desordenado, pero bueno— para determinar colectivamente qué deben ser los umbrales de seguridad”, dijo Altman a Noah. “Creo que debemos, como mundo, enfrentarnos a esto… esta idea de que existe un riesgo catastrófico o potencialmente incluso existencial, de una manera que, simplemente porque no podemos definirlo con precisión, no significa que podamos ignorarlo. Y así estamos haciendo mucho trabajo aquí para tratar de prever y medir cuáles podrían ser esos problemas, cuándo podrían ocurrir, cómo los detectaríamos temprano”.
Sí, dormiré mejor esta noche. ¿Y tú?
Aquí están las otras cosas en IA que vale la pena tu atención.
La UE aprueba una “histórica” legislación sobre IA
Un mes después de que la administración Biden publicara una orden ejecutiva que tiene como objetivo establecer límites para el desarrollo y uso de IA, los legisladores de la Unión Europea acordaron el 8 de diciembre una “nueva ley integral para regular la inteligencia artificial, uno de los primeros intentos completos del mundo para limitar el uso de una tecnología en rápida evolución”, según The New York Times informó.
La Ley de IA, que afectará a las empresas tecnológicas de los 27 países de la UE y buscará proteger a 450 millones de consumidores, “allana el camino para lo que podría convertirse en un estándar global para clasificar el riesgo, garantizar la transparencia y penalizar financieramente a las empresas tecnológicas por incumplimiento”, según The Washington Post. Las empresas corren el riesgo de multas de hasta el 7% de sus ingresos globales.
¡Histórico! La UE se convierte en el primer continente en establecer reglas claras para el uso de la IA”, dijo el comisario europeo Thierry Breton en un tweet. “El #AIAct es mucho más que un manual de normas, es una plataforma de lanzamiento para las startups y los investigadores de la UE para liderar la carrera mundial de IA”.
Se espera que la ley se finalice en 2024 y “no entrará en vigor hasta 2025 como muy pronto”, señaló Alianza de IA, una colaboración que involucra a más de 50 empresas, universidades, grupos de investigación, agencias científicas y líderes de IA, para asegurar que “la innovación abierta en IA beneficie a todos y que se construya de manera responsable”.
OpenAI no está entre aquellos que se unen, tampoco lo está Google.
“Creemos que es mejor cuando la IA se desarrolla de forma abierta, más personas pueden acceder a los beneficios, crear productos innovadores y trabajar en seguridad”, dijo Nick Clegg, presidente de asuntos globales de Meta. La compañía creó el modelo de lenguaje grande, de código abierto y gratuito Llama 2, o LLM, que es una alternativa a la tecnología de OpenAI y Google.
Google intensifica la carrera armamentista de la IA con Gemini, en cierto sentido
Google, que permite a las personas jugar con la IA a través de su chatbot Bard, lanzó la semana pasada una actualización al Gemini LLM que impulsa su chatbot. La actualización es “un cambio radical para la IA”, según Stephen Shankland de ENBLE, y eleva el listón con respecto a OpenAI. La novedad: la capacidad de Gemini de ir más allá de las tareas de IA basadas en texto, como resumir documentos y escribir código de programación, para comprender video, audio y fotos. Eso significa cosas como ser capaz de entender los gestos de la mano en un video.
“El chat basado en texto es importante, pero los humanos deben procesar información mucho más rica a medida que habitamos nuestro mundo tridimensional y en constante cambio”, dijo Shankland. “Y respondemos con habilidades complejas de comunicación, como el habla y la imaginería, no solo palabras escritas. Gemini es un intento de acercarnos más a nuestra comprensión completa del mundo”.
Google, que está trabajando para superar a competidores como OpenAI y Meta, dijo que entregará las capacidades de Gemini el próximo año a miles de millones de personas que usan sus productos, incluyendo búsqueda, Chrome, Google Docs y Gmail. “Durante mucho tiempo hemos querido construir una nueva generación de modelos de IA inspirados en la forma en que las personas entienden e interactúan con el mundo; una IA que se sienta más como un colaborador útil y menos como un software inteligente”, dijo Eli Collins, vicepresidente de producto en la división DeepMind de Google, a ENBLE.
Pero hay un pequeño problema. Shankland señaló que aunque el video promocional de Google para la actualización de Gemini “no representa fundamentalmente las habilidades de Gemini de manera incorrecta”, está en línea con los clips promocionales comunes que “hacen que los productos parezcan más glamorosos de lo que realmente son”. Google, según dijo, incluyó una renuncia en su video, diciendo que Gemini no responde tan rápidamente como se muestra.
La conclusión es que estamos en una carrera de inteligencia artificial y las empresas se están moviendo para adelantarse. Pero como dijo la columnista de Bloomberg Parmy Olson lo puso, “toma con un poco de escepticismo el último avance de Google”.
Al menos por ahora.
La aplicación Seeing AI de Microsoft ahora está disponible en Android
En la elección de esta semana para la tecnología para el bien, Microsoft dijo que hizo su aplicación gratuita Seeing AI disponible en la Google Play Store para los 3 millones de usuarios de Android, y dijo que está disponible en 18 idiomas, con planes de expandirse a 36 el próximo año.
“Seeing AI narra el entorno de una persona y está diseñada para ayudar a personas ciegas o con baja visión a realizar tareas como leer correo, identificar productos y escuchar descripciones de fotos”, escribió Abrar Al-Heeti de ENBLE. “Los usuarios apuntan la cámara de su teléfono, toman una foto y luego escuchan una descripción”.
La aplicación tiene diferentes categorías para diversas tareas: la función de Texto Corto habla en voz alta tan pronto como el texto aparece frente a la cámara, la función de Personas identifica a las personas que te rodean. La función de Moneda identifica el dinero. Mientras tanto, la función de Escenas te permite escuchar una descripción del entorno que has fotografiado, lo que te permite mover el dedo por la pantalla para escuchar las ubicaciones de diferentes objetos.
Seeing AI también puede identificar colores y leer textos escritos a mano, como en tarjetas de felicitación, lo cual es muy útil para aquellos de nosotros que recibimos tarjetas de vacaciones de personas con mala caligrafía (no es que me esté quejando de recibir una tarjeta).
Además del inglés, la aplicación está disponible en checo, danés, holandés, finlandés, francés, alemán, griego, húngaro, italiano, japonés, coreano, noruego Bokmal, polaco, portugués, ruso, español, sueco y turco.
Lo que todo director ejecutivo debe saber sobre la IA
¿Aún no estás seguro de qué se trata toda la emoción sobre la IA generativa? ¿O tal vez crees que sabes de qué se trata? De cualquier manera, McKinsey compartió una guía de 17 páginas en mayo (que acabo de descubrir) titulada “Lo que todo director ejecutivo debe saber sobre la IA generativa“. Es una guía útil, ya sea que seas director de una empresa o no.
Señalando que ChatGPT alcanzó los 100 millones de usuarios en solo dos meses, McKinsey dijo: “Democratizó la IA de una manera nunca antes vista, convirtiéndose en la aplicación de crecimiento más rápido con diferencia. Su accesibilidad inmediata hace que la IA generativa sea diferente a toda IA anterior. Los usuarios no necesitan un título en aprendizaje automático para interactuar o obtener valor de ella; prácticamente cualquier persona que pueda hacer preguntas puede usarla”.
En cuanto a las empresas que “pueden ver una oportunidad para superar a la competencia al reinventar cómo las personas realizan su trabajo”, McKinsey advierte enérgicamente, lo que creo que se pierde entre todo el pensamiento mágico sobre la IA generativa: “Las empresas también deberán evaluar si tienen la experiencia técnica necesaria, la tecnología y la arquitectura de datos, el modelo operativo y los procesos de gestión de riesgos que requerirán algunas de las implementaciones más transformadoras de la IA generativa”.
Lectura feliz.
En McDonald’s, esas papas fritas vendrán acompañadas de inteligencia artificial
A primera vista, la noticia de que McDonald’s estará utilizando la tecnología en la nube de AI de Google para ayudar a sus restaurantes a optimizar las operaciones parecía ser la típica historia de “miren quién se convirtió en cliente” para Google.
Pero me gusta la idea (juego de palabras totalmente intencionado) de que esto podría significar que la inteligencia artificial permitirá que los restaurantes de McDonald’s produzcan mejores hamburguesas y papas fritas para los clientes, que a menudo utilizan una aplicación móvil o las quioscos de autoservicio para pedir una comida. “La cadena de restaurantes más grande del mundo, destaca The Street, dice que este cambio resultará en “beneficios para los clientes como comida más caliente y fresca” en todo el sistema de restaurantes de comida rápida en todo el mundo.
En caso de que no lo supieran, McDonald’s tiene más de 38,000 restaurantes en todo el mundo, en más de 100 países.
Término de IA de la semana: Modelos de Lenguaje Grande (MLG)
Con todo el revuelo sobre el genAI en Silicon Valley, que se basa en la tecnología de los MLG de estas empresas, pensé que sería útil ofrecer algunas definiciones.
La primera viene de la firma de capital de riesgo Andreesen Horowitz, que ofrece una definición simple.
“Modelo de Lenguaje Grande (MLG): Un tipo de modelo de IA que puede generar texto similar al humano y que se entrena con un amplio conjunto de datos”.
La firma de investigación de mercado Gartner brinda una respuesta un poco más detallada.
“Modelos de Lenguaje Grande (MLG): Un tipo especializado de inteligencia artificial (IA) que ha sido entrenado en grandes cantidades de texto para entender contenido existente y generar contenido original.”
Y para una respuesta aún más detallada, he recurrido a The Alan Turing Institute:
“Modelo de Lenguaje Grande: Un tipo de modelo básico que se entrena en una enorme cantidad de datos textuales para llevar a cabo tareas relacionadas con el lenguaje. Los modelos de lenguaje grande impulsan la nueva generación de chatbots y pueden generar texto indistinguible del texto escrito por humanos. Forman parte de un campo de investigación más amplio llamado procesamiento de lenguaje natural y su diseño suele ser mucho más sencillo que el de los modelos de lenguaje más pequeños y tradicionales.”
Nota de los editores: ENBLE está utilizando un motor de IA para ayudar a crear algunas historias. Para obtener más información, vean esta publicación.
