Elon Musk anuncia Grok, una IA ‘rebelde’ con pocas restricciones.
Elon Musk anuncia Grok, una IA 'desafiante' con limitadas restricciones.
La semana pasada, Elon Musk voló al Reino Unido para aumentar la preocupación por el riesgo existencial que plantea la inteligencia artificial. Un par de días después, él anunció que su última empresa, xAI, había desarrollado una poderosa IA, una con menos salvaguardias que la competencia.
El modelo de IA, llamado Grok (un nombre que en círculos tecnológicos significa “entender”), “está diseñado para responder preguntas con un poco de ingenio y tiene una tendencia rebelde, ¡así que por favor no lo uses si odias el humor!” dice un anuncio en el sitio web de la compañía. “También responderá preguntas picantes que son rechazadas por la mayoría de los otros sistemas de IA”.
El anuncio no explica qué significa exactamente “picante” o “rebelde”, pero la mayoría de los modelos de IA comerciales se niegan a generar contenido explícitamente sexual, violento o ilegal, y están diseñados para evitar expresar sesgos absorbidos de sus datos de entrenamiento. Sin estas salvaguardias, la preocupación es que un modelo de IA pueda ayudar a los terroristas a desarrollar una bomba o dar lugar a productos que discriminen a los usuarios en función de características como raza, género o edad.
xAI no lista ninguna información de contacto en su sitio web y los correos electrónicos enviados a direcciones comunes fueron devueltos. Un correo electrónico enviado a la dirección de prensa de X recibió una respuesta automática que decía: “Ocupado ahora, por favor vuelva más tarde”.
El anuncio de xAI dice que Grok se basa en un modelo de lenguaje llamado Grok-1 que tiene 33 mil millones de parámetros. La compañía afirma haber desarrollado Grok en dos meses, un tiempo relativamente corto según los estándares de la industria, y también afirma que una ventaja fundamental es su “conocimiento en tiempo real del mundo a través de la plataforma X”, o la plataforma anteriormente conocida como Twitter, que Musk adquirió por $44 mil millones en 2022.
- La intensificación de la vigilancia israelí ha puesto a la Ribera O...
- Las grandes tecnológicas abandonaron la confianza y la seguridad. A...
- WeWork Acaba de Declararse en Bancarrota
Stella Biderman, una investigadora de IA en EleutherAI, un proyecto de IA de código abierto, asegura que las afirmaciones hechas en el anuncio de xAI parecen plausibles. Biderman sugiere que Grok utilizará lo que se conoce como “generación con recuperación aumentada” para agregar información actualizada de X a su salida. Otros modelos de lenguaje de vanguardia hacen esto utilizando resultados de motores de búsqueda y otra información.
Los modelos de lenguaje grandes han demostrado ser sorprendentemente capaces durante el último año aproximadamente, como lo destacó más famosamente el chatbot revolucionario de OpenAI, ChatGPT.
Estos modelos se alimentan de grandes cantidades de texto tomado de libros y la web, y luego generan texto en respuesta a una indicación. Por lo general, también se les brinda más entrenamiento por parte de humanos para hacerlos menos propensos a producir salidas ofensivas, groseras o peligrosas, y para hacerlos más propensos a responder preguntas de manera coherente y plausiblemente correcta, aunque aún son propensos a producir errores y sesgos.
Los modelos de lenguaje desarrollados por OpenAI, Google y startups como Anthropic, Cohere y Inflection AI normalmente se niegan a, por ejemplo, ofrecer consejos sobre cómo cometer crímenes, y se muestran reacios cuando se les pide material picante.
No está claro a partir del anuncio de xAI si Grok ha sido entrenado para ser más abierto a solicitudes consideradas inapropiadas por otros modelos, o si simplemente no ha recibido el mismo tipo de entrenamiento secundario.
xAI publicó los resultados de varias pruebas de referencia diseñadas para medir las capacidades de los modelos de lenguaje grandes. Andrei Barbu, un científico investigador en el MIT, dice que los resultados parecen similares a otros modelos populares.
xAI dice que Grok hasta ahora ha sido probado por un pequeño número de usuarios, pero ahora estará disponible para un grupo más amplio de personas que soliciten acceso. Musk dijo en un post en X que el modelo estaría disponible para todos los suscriptores de X Premium+. xAI no ha dicho que vaya a lanzar ningún modelo públicamente.
El anuncio de xAI dice que la compañía está trabajando en varios desafíos clave relacionados con el avance de la IA, incluyendo la construcción de modelos que puedan evaluar la confiabilidad de su propia salida y pedir ayuda cuando sea necesario, y la creación de modelos más robustos ante “ataques adversarios” diseñados para hacerlos comportarse mal. Afirma: “trabajaremos para desarrollar salvaguardias confiables contra formas catastróficas de uso malicioso”.
Musk fue un inversor temprano en IA generativa. El multimillonario ayudó a OpenAI a empezar invirtiendo entre $50 y $100 millones en la compañía en 2015. Retiró su apoyo a la compañía (que en ese momento era sin fines de lucro) en 2018 después de no poder tomar su control.
Después de que OpenAI cambiara de una organización sin fines de lucro a un negocio con fines de lucro y aceptara inversiones de Microsoft, y después del gran éxito de ChatGPT, el hombre más rico del mundo criticó abiertamente a OpenAI y acusó a sus modelos de lenguaje de ser demasiado “woke”.
Luego, en julio de 2023, Musk anunció que había reunido un pequeño pero respetado equipo de investigadores de IA para desarrollar formas de IA “menos sesgadas”.
Algunos investigadores de IA ya han intentado construir modelos de lenguaje con una gama más diversa de opiniones políticas. OpenAI también ha dicho que trabajará para eliminar sesgos políticos de sus modelos.
En el año desde que Musk tomó el control de X, la plataforma ha reincorporado a varios usuarios polémicos, incluyendo a aquellos de extrema derecha, siguiendo la oposición declarada de su nuevo propietario a moderar contenido en las redes sociales. Múltiples estudios han encontrado que la desinformación ha aumentado en la plataforma desde que Musk se hizo cargo.
El anuncio de Grok establece: “Estamos construyendo herramientas de IA que beneficien al máximo a toda la humanidad. Creemos que es importante diseñar herramientas de IA útiles para personas de todos los orígenes y opiniones políticas. También queremos empoderar a nuestros usuarios con nuestras herramientas de IA, sujeto a la ley. Nuestro objetivo con Grok es explorar y demostrar este enfoque de manera pública”.
Otro investigador de IA familiarizado con los planes de xAI, pero que prefirió no ser nombrado porque las discusiones sobre la compañía eran privadas, dijo que xAI también está trabajando en una herramienta de codificación que utilizará el modelo. Microsoft ofrece un complemento para su programa de codificación, Visual Studio Code, que está impulsado por un modelo de lenguaje específico para codificación desarrollado por OpenAI. Entrenar un modelo en código informático puede mejorar su rendimiento en otras tareas.
ENBLE contactó a varios investigadores prominentes de IA, pero no pudo encontrar a ninguno que tuviera acceso a Grok hasta ahora.
Barbu en MIT dice que ahora que hay tantos buenos modelos de lenguaje disponibles, la pregunta es qué planes tiene Musk para Grok y cómo espera ganar dinero con ello. “Han reunido a gente talentosa y parece que ahora están preparados para hacer algo”, dice. “Solo no está claro qué”.
