IA y tú Alucinaciones, Gran charla sobre IA en las grandes tecnológicas, y Empleos, Empleos, Empleos
IA y tú Alucinaciones, Gran charla sobre IA en las grandes tecnológicas, y Empleos, Empleos, Empleos' The condensed version is 'IA y tú Alucinaciones, Gran charla sobre IA y Empleos
En los últimos meses, he leído glosarios de IA para ponerme al día con el vocabulario en torno al nuevo mundo de la IA generativa. Reconozco que he estado profundizando en este tema y puede que sepa más que el estadounidense promedio sobre IA, pero aún asumí que algunos de los conceptos clave asociados con la IA generativa son ampliamente conocidos y comprendidos. Hablar con un profesor de periodismo esta semana me mostró que no es el caso: Mientras les explicaba cómo las herramientas de IA tienden a “alucinar”, me miraron en blanco y dijeron: “¿Qué significa eso?”
“Alucinar” es una de las primeras palabras del vocabulario relacionado con genAI que todos deberían conocer. En pocas palabras, significa que los motores de IA, como ChatGPT de OpenAI, tienen tendencia a inventar cosas que no son verdaderas pero que suenan verdaderas. De hecho, la Comisión Federal de Comercio de los Estados Unidos comenzó a investigar a OpenAI este mes por la posibilidad de que su chatbot haga declaraciones falsas sobre las personas. ¿De dónde viene “alucinar” en un contexto de IA? Los investigadores de Google DeepMind inventaron el término en 2018, diciendo que descubrieron que los sistemas de traducción neuronal, o NMT, “son susceptibles de producir traducciones altamente patológicas que están completamente desvinculadas del material de origen”.
Traducciones altamente patológicas desvinculadas del material de origen. No soy un ingeniero, pero incluso yo sé que es una manera muy amable de decir que algo está realmente mal con esos sistemas.
La mayoría de los glosarios ofrecen una explicación más directa de una “alucinación” de IA. Esta definición es cortesía de NBC News:
“Alucinación: Las alucinaciones son respuestas inesperadas e incorrectas de programas de IA que pueden surgir por razones que aún no se conocen completamente. Un modelo de lenguaje podría mencionar repentinamente recetas de ensalada de frutas cuando estabas preguntando sobre cómo plantar árboles frutales. También podría inventar citas académicas, mentir sobre datos que le pides analizar o inventar hechos sobre eventos que no están en sus datos de entrenamiento. No se comprende completamente por qué sucede esto, pero puede surgir por datos escasos, lagunas de información y clasificaciones erróneas”.
- Los mejores atajos de teclado para Mac en 2023 | ENBLE
- Mejor impresora 3D económica 8 grandes impresoras a un precio que t...
- El MacBook Air de 15 pulgadas de Apple es excelente para el trabajo...
En aras de la imparcialidad, le pregunté a ChatGPT su opinión, solicitándole que me dijera qué significa “alucinar” en referencia a la IA. Aquí está su respuesta:
En el contexto de la IA, el término “alucinar” se utiliza metafóricamente para describir la generación de contenido o información que no se basa en observación directa o datos del mundo real. Cuando un sistema de IA “alucina”, significa que produce resultados que pueden parecer o imitar ciertos patrones o características encontrados en los datos de entrenamiento, pero que en realidad no están fundamentados en la realidad.
El término “alucinar” no es específico de la IA y se ha tomado prestado de su uso en el campo de la psicología. En psicología, la alucinación se refiere a percepciones o experiencias sensoriales que ocurren sin ningún estímulo externo. Estas percepciones no se basan en la realidad, pero son percibidas como reales por el individuo que las experimenta.
En el contexto de la IA, el término se usa metafóricamente para describir situaciones en las que los resultados generados se desvían de la realidad o introducen elementos que no están presentes en los datos originales. Por ejemplo, en el ámbito de la generación de imágenes, un sistema de IA puede producir imágenes que contienen elementos surrealistas o fantásticos, que no se basan en objetos o escenas reales observados en los datos de entrenamiento.
El término “alucinar” se utiliza para resaltar el potencial de los sistemas de IA para generar resultados que van más allá de lo que se observa directamente o se instruye explícitamente. Refleja la capacidad de los algoritmos de IA para extrapolar, combinar o crear nuevos patrones, a veces dando lugar a resultados inesperados o imaginativos.
Un poco extenso y complicado para que un asistente de IA conversacional diga que inventa cosas, en mi opinión. Si no supiera mejor, también diría que ChatGPT está un poco a la defensiva.
Aquí están otras noticias en IA que vale la pena destacar.
Los trabajadores estadounidenses no le temen a la IA, pero la erosión de empleos se acerca
El Centro de Investigación Pew y McKinsey publicaron informes esta semana sobre cómo la IA puede afectar a los trabajadores y los empleos, a pesar de que aún quedan muchas preguntas abiertas. Ambos informes valen la pena leer.
Según el estudio de Pew, los trabajadores estadounidenses “parecen más esperanzados que preocupados por el impacto de la IA en sus trabajos”.
El estudio tuvo como objetivo, en parte, cuantificar qué industrias y trabajadores están más expuestos a la IA. Pew caracterizó los trabajos como “más expuestos a la inteligencia artificial si la IA puede realizar completamente sus actividades más importantes o ayudar con ellas”.
“Muchos trabajadores estadounidenses en industrias más expuestas no sienten que sus empleos estén en riesgo, más bien creen que la inteligencia artificial (IA) les ayudará más que perjudicarles personalmente. Por ejemplo, el estudio encontró que el 32% de los trabajadores en la industria de la información y la tecnología creen que la IA les ayudará más que perjudicarles personalmente, en comparación con el 11% que piensa que les perjudicará más que ayudarles”, según el estudio.
En cuanto a si la IA llevará a la pérdida de empleos, Pew dijo que la respuesta a eso sigue sin estar clara “porque la IA podría usarse tanto para reemplazar como para complementar lo que hacen los trabajadores”. Y esa decisión, como todos sabemos, será tomada por los humanos, es decir, los gerentes que dirigen estos negocios y que deciden si, cómo y cuándo se utilizan las herramientas de IA.
“Consideremos a los agentes de servicio al cliente”, señaló Pew. “Las evidencias muestran que la IA podría reemplazarlos con chatbots más potentes o podría mejorar su productividad. La IA también podría crear nuevos tipos de empleos para trabajadores más capacitados, de la misma manera que la era de Internet generó nuevas clases de empleos como desarrolladores web. Otra forma en que los desarrollos relacionados con la IA podrían aumentar los niveles de empleo es al impulsar la economía mediante el aumento de la productividad y la creación de más empleos en general.”
En cuanto a los empleos con mayor exposición a la IA, la distribución no es sorprendente, dado que algunos trabajos, como el de los bomberos, son más prácticos que otros. Lo sorprendente es que, según Pew, es más probable que las mujeres tengan exposición a la IA en sus empleos en comparación con los hombres, basado en el tipo de trabajo que realizan.
Mientras tanto, McKinsey presentó su informe “Generative AI y el futuro del trabajo en Estados Unidos”. La consultora hizo una evaluación directa sobre el impacto de la IA en el trabajo, diciendo que “para 2030, las actividades que representan hasta el 30% de las horas trabajadas actualmente en la economía de Estados Unidos podrían automatizarse, una tendencia acelerada por la IA generativa”.
Pero hay un posible aspecto positivo. “Para 2030, podrían ser necesarias hasta 12 millones de transiciones ocupacionales adicionales. A medida que las personas abandonen ocupaciones en disminución, la economía podría orientarse hacia empleos mejor remunerados. Los trabajadores en empleos de menor remuneración tienen hasta 14 veces más probabilidades de necesitar cambiar de ocupación que aquellos en posiciones de mayor remuneración, y la mayoría necesitará adquirir habilidades adicionales para hacerlo con éxito. Las mujeres tienen 1.5 veces más probabilidades de necesitar ingresar a nuevas ocupaciones que los hombres.”
Todo esto, agrega McKinsey, depende de que los empleadores estadounidenses ayuden a capacitar a los trabajadores para adaptarse a sus necesidades cambiantes y se vuelvan hacia grupos pasados por alto, como los trabajadores rurales y las personas con discapacidades, en busca de nuevo talento.
¿Qué significa todo esto para ti en este momento? Una cosa es que los empleadores están utilizando IA para ayudar con sus procesos de contratación. Si estás buscando consejos sobre cómo buscar empleo en un mundo con estas herramientas de reclutamiento basadas en IA, echa un vistazo a esta útil guía sobre La Nueva Era de la Contratación de Laura Michelle Davis de ENBLE.
Las grandes empresas de tecnología hablan sobre la IA durante las llamadas de ganancias
Google/Alphabet, Microsoft y Meta (anteriormente conocida como Facebook) anunciaron sus ganancias trimestrales esta semana. Y lo interesante, aunque no sorprendente, fue la frecuencia con la que se mencionó la IA en los discursos de apertura de los CEO y otros ejecutivos, así como en las preguntas formuladas por los analistas de Wall Street.
Satya Nadella, CEO de Microsoft, cuya compañía ofrece una versión mejorada con IA de su motor de búsqueda Bing, además de herramientas de IA para empresas, mencionó la inteligencia artificial 27 veces en su discurso de apertura. Sundar Pichai, CEO de Google, habló sobre el poder de Bard y otras herramientas de IA de Google y mencionó la IA 35 veces. Y Mark Zuckerberg, CEO de Meta, mencionó la IA 17 veces. Si buscas una lectura no tan ligera, te animo a que escanees las transcripciones por ti mismo.
De Zuckerberg, escuchamos que “el contenido recomendado por IA de cuentas que no sigues es ahora la categoría de contenido de más rápido crecimiento en el feed de Facebook”. También dijo que “puedes imaginar muchas formas en que la IA podría ayudar a las personas a conectarse y expresarse en nuestras aplicaciones: herramientas creativas que facilitan y hacen más divertido compartir contenido, agentes que actúan como asistentes, entrenadores o que pueden ayudarte a interactuar con empresas y creadores, y más. Estos nuevos productos mejorarán todo lo que hacemos tanto en aplicaciones móviles como en el metaverso, ayudando a las personas a crear mundos y los avatares y objetos que los habitan”.
Nadella, al hablar sobre Bing, dijo que es “la experiencia de búsqueda predeterminada para ChatGPT de OpenAI, brindando respuestas más oportunas con enlaces a nuestras fuentes confiables para los usuarios de ChatGPT. Hasta la fecha, los usuarios de Bing han participado en más de mil millones de chats y han creado más de 750 millones de imágenes con Bing Image Creator”.
Y Pichai habló sobre cómo la tecnología de IA está transformando la búsqueda de Google. “Hasta ahora, los comentarios de los usuarios han sido muy positivos”, dijo. “Puede responder mejor a las consultas que las personas nos hacen hoy y también desbloquear nuevos tipos de preguntas que la búsqueda puede responder. Por ejemplo, descubrimos que la IA generativa puede conectar los puntos para las personas a medida que exploran un tema o proyecto, ayudándoles a evaluar múltiples factores y preferencias personales antes de realizar una compra o reservar un viaje. Vemos esta nueva experiencia como otro punto de partida para explorar la web, permitiendo a los usuarios profundizar en el aprendizaje sobre un tema”.
La detección de IA encuentra otro obstáculo
La semana pasada, compartí una historia de ENBLE escrita por el editor científico Jackson Ryan sobre cómo un grupo de investigadores de la Universidad de Stanford se propuso probar “detectores” de IA generativa para ver si podían diferenciar entre algo escrito por una IA y algo escrito por un humano. Los detectores no hicieron un buen trabajo, y los investigadores señalaron que el software es sesgado y fácil de engañar.
Por eso, educadores y otros se alegraron con la noticia de enero de que Open AI, el creador de ChatGPT, estaba trabajando en una herramienta que detectaría contenido de IA versus contenido humano. Resulta que esa era una búsqueda ambiciosa, porque OpenAI “desconectó silenciosamente” su herramienta de detección de IA, según informes de Decrypt.
OpenAI dijo que a partir del 20 de julio ya no estaba disponible el Clasificador de IA debido a su “baja tasa de precisión”. La compañía compartió la noticia en una nota añadida al blog que anunció por primera vez la herramienta, y agregó: “Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar y desplegar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA”.
El gobierno de EE. UU. continúa discutiendo regulaciones de IA
El líder de la mayoría del Senado, Chuck Schumer, continuó realizando sesiones informativas para informar al Senado sobre las oportunidades y riesgos en torno a la IA, diciendo esta semana que hay un “interés bipartidista real” en crear legislación de IA que “fomente la innovación pero tenga salvaguardias para prevenir las responsabilidades que la IA podría presentar”.
Se espera que el Senado llame a más expertos para testificar en los próximos meses, según Reuters, que señaló que a principios de la semana, senadores de ambos lados expresaron alarma sobre el uso de la IA para crear un “ataque biológico”. Sé que eso ya ha sido la trama de una película de ciencia ficción, solo que no puedo recordar cuál.
Aquí están las declaraciones completas de Schumer.
El interés de Hollywood en el talento de IA aumenta mientras continúan las huelgas de actores y escritores
Hablando de películas e historias de IA, mientras continúan las huelgas de actores y escritores, las compañías de entretenimiento, no interesadas en la imagen de relaciones públicas, supongo, publicaron ofertas de trabajo para especialistas en IA mientras los creativos protestaban preocupados de que los estudios “tomen sus semblanzas o voces y las reutilicen una y otra vez con poco o ningún pago y con poca notificación”, según informó The Hollywood Reporter.
“Casi todos los propietarios de estudios parecen estar pensando en IA, ya sea para contenido, servicio al cliente, análisis de datos u otros usos”, dijo The Reporter, señalando que Disney ofrece un salario base de $180,000, con bonificaciones y otras compensaciones, para alguien que tenga “la ambición de empujar los límites de lo que las herramientas de IA pueden crear y entender la diferencia entre la voz de los datos y la voz de un diseñador, escritor o artista”.
Netflix busca un gerente de productos de IA con un salario de $900,000 al año, según encontró The Intercept, mientras que The Reporter señaló que Amazon está buscando un gerente senior para Prime Video, con un salario base de hasta $300,000, que “ayudará a definir lo próximo en la localización de contenido, mejora de contenido o hacerlo accesible utilizando tecnología de Generative AI y Computer Vision de última generación”.
Como todos sabemos, la IA no va a desaparecer y los empleos se verán afectados. Pero las preguntas sobre cómo, cuándo y por qué, y quién será compensado por qué, desde actores hasta escritores, dependerán de decisiones tomadas por humanos.
El actor Joseph-Gordon Levitt, quien también creó la plataforma colaborativa en línea HitRecord y encontró una manera de pagar a los creativos por sus contribuciones, escribió un valioso artículo de opinión recordando a todos que las IA se entrenan en algo, y ese algo suele ser el trabajo de otros que deberían ser reconocidos y remunerados por sus contribuciones.
Nota de los editores: ENBLE está utilizando un motor de IA para ayudar a crear algunas historias. Para más información, consulte esta publicación.
