Los esfuerzos de Instagram por etiquetar contenido generado por inteligencia artificial
Instagram's efforts to label AI-generated content
La inteligencia artificial (IA) está desempeñando un papel cada vez más importante y perturbando muchos mercados. En particular, las plataformas de redes sociales han adoptado herramientas de IA para servir mejor a sus usuarios. Instagram, uno de los sitios de redes sociales más populares, está desarrollando actualmente nuevas advertencias para etiquetar publicaciones que fueron creadas con inteligencia artificial. El objetivo de este cambio es ser más abiertos y honestos sobre el uso de la IA en la producción de los medios que las personas consumen.
Con el fin de informar a sus usuarios cuando se ha utilizado inteligencia artificial (IA) en la producción de contenido, Instagram está trabajando actualmente en un sistema de etiquetado. Compartiendo una captura de pantalla desde la aplicación de Instagram, el investigador de aplicaciones Alessandro Paluzzi revela una página con un aviso que dice, “el creador o Meta dijo que este contenido fue creado o editado con IA”. Esta advertencia enfatiza que el contenido en cuestión fue “generado por Meta IA”. El artículo continúa con una breve explicación sobre la IA generativa y algunos consejos para detectar artículos que utilizan IA.
Meta, la empresa matriz de Instagram, y otros grandes actores de la IA como Google, Microsoft y OpenAI han hecho compromisos recientes que son consistentes con la introducción de este sistema de etiquetado. Estos compromisos fueron desarrollados en conjunto con la Casa Blanca y están orientados a garantizar el crecimiento ético de la IA. Algunos ejemplos de estos esfuerzos son financiar estudios sobre ciberseguridad y discriminación, y crear un sistema de marca de agua para alertar al público sobre la presencia de contenido generado por IA.
Dado que la frase “Meta dijo” aparece en la etiqueta, es seguro asumir que la empresa tecnológica Meta aplicará proactivamente el aviso en algunos casos en lugar de depender únicamente de las divulgaciones de los usuarios, aunque el nivel exacto de automatización en el sistema de etiquetado de Instagram aún se desconoce. Un representante de Meta se negó a comentar sobre el aviso, pero esta nueva función muestra el compromiso de la plataforma con la apertura y la responsabilidad con respecto al contenido generado por IA.
Se han planteado preocupaciones sobre la posible propagación de desinformación a raíz de la aparición de contenido generado por IA. Aunque esto aún está en sus primeras etapas, nos vemos recordados de las posibles repercusiones por eventos como la imagen viral del Papa Francisco vistiendo una chaqueta hinchada con estilo a principios de este año. La facilidad con la que se puede utilizar la IA para crear y difundir información engañosa o perjudicial se destacó con esta imagen, que luego fue desmentida. Esto es peligroso no solo en contextos triviales como la chaqueta del papa, sino también en la producción de deepfakes en forma de imágenes satelitales o fotografía política.
- La IA generativa está lista para revolucionar la industria automotriz
- Las nuevas normas de China sobre la adicción a Internet ¿Son demasi...
- Pasos para escribir un ensayo una guía para escribir ensayos sobres...
Recientemente, Meta ha avanzado en la mejora de sus capacidades de inteligencia artificial (IA), incluida la liberación del modelo de lenguaje LLaMA 2 de gran tamaño. Las funciones de IA generativa que son accesibles para el público en general en servicios como Instagram aún están en desarrollo. Sin embargo, han comenzado a aparecer pruebas de las características en desarrollo. Mark Zuckerberg, CEO de Meta, informó a los empleados en una reunión general en junio que la empresa estaba desarrollando funciones como sugerencias de texto para editar fotos en Instagram Stories. Alessandro Paluzzi, un investigador de aplicaciones, también encontró pruebas de una función de “pincel de IA” para Instagram, que permitiría a los usuarios editar píxeles individuales en fotos. Además, según informó The Financial Times, Meta podría agregar una función de ‘personas’ a sus chatbots de IA a partir del próximo mes.
Otro líder de la industria en IA, Google, ha comenzado a reconocer el valor de informar a los consumidores sobre el contenido creado por IA. La función “Acerca de esta imagen” de la búsqueda de imágenes de la compañía se lanzará próximamente, según ha anunciado la compañía. Este verano, cuando se implemente, una nueva función facilitará determinar si una imagen es producto de la inteligencia artificial o no. Esta función proporciona un contexto valioso y una visión de la autenticidad de la imagen al revelar la primera ubicación donde Google la indexó.
La industria tecnológica en su conjunto está comenzando a reconocer la importancia de la transparencia y la responsabilidad, como demuestran los esfuerzos de Instagram y Google para etiquetar e identificar el contenido generado por IA. Los usuarios necesitan saber cuándo y cómo se utiliza la IA en la creación de contenido a medida que la IA se desarrolla y se integra más en nuestra vida diaria. Estos sistemas de etiquetado ayudan a los usuarios a tomar decisiones informadas sobre el contenido con el que interactúan al proporcionar descripciones claras.
La decisión de Instagram de etiquetar el contenido generado por IA es un paso positivo hacia una mayor transparencia y responsabilidad en una era en la que las tecnologías de IA están moldeando cada vez más nuestras experiencias digitales. El objetivo de Instagram es dar a los usuarios más control sobre el contenido que consumen al notificarles cuando se ha utilizado IA en la producción de ese contenido. Juntos, este cambio y el trabajo de Google para identificar imágenes generadas por IA indican una creciente conciencia de la necesidad de apertura en la era de la IA. Las plataformas y las empresas deben priorizar el uso ético y responsable de la IA a medida que estas tecnologías avanzan para mantener la confianza de los usuarios y hacer de Internet un lugar más seguro para todos.
Primero informado en The ENBLE
Preguntas frecuentes
¿Cuál es el objetivo de Instagram con el desarrollo de un nuevo sistema de etiquetado?
El objetivo de Instagram con el nuevo sistema de etiquetado es ser más abierto y honesto acerca del uso de la inteligencia artificial (IA) en la producción de contenido en su plataforma. El sistema de etiquetado informará a los usuarios cuando se haya utilizado IA para crear o editar una publicación.
¿Quién está desarrollando el sistema de etiquetado para el contenido generado por IA en Instagram?
La empresa matriz de Instagram, Meta, está desarrollando el sistema de etiquetado para el contenido generado por IA en la plataforma.
¿Qué dirá la etiqueta en el contenido generado por IA?
La etiqueta en el contenido generado por IA dirá: “el creador o Meta dijo que este contenido fue creado o editado con IA”. Se enfatiza que el contenido fue “generado por Meta AI”.
¿Por qué es importante la introducción del sistema de etiquetado?
La introducción del sistema de etiquetado es importante para abordar preocupaciones sobre la posible propagación de desinformación y deepfakes a través del contenido generado por IA. Su objetivo es proporcionar a los usuarios más contexto y transparencia sobre el contenido que consumen.
¿Cuáles son algunos ejemplos de esfuerzos realizados por importantes actores de IA con respecto al crecimiento ético de la IA?
Grandes actores de IA como Meta, Google, Microsoft y OpenAI han realizado compromisos en colaboración con la Casa Blanca para garantizar un crecimiento ético en la IA. Estos esfuerzos incluyen financiar estudios sobre ciberseguridad y discriminación, así como crear un sistema de marca de agua para alertar al público sobre contenido generado por IA.
¿Cómo está aplicando Meta el aviso sobre el contenido generado por IA?
Aunque no se conoce el nivel exacto de automatización en el sistema de etiquetado de Instagram, la presencia de la frase “Meta dijo” en la etiqueta sugiere que Meta puede aplicar proactivamente el aviso en algunos casos, además de confiar en las divulgaciones de los usuarios.
¿Qué otras características de IA se están desarrollando para Instagram?
Meta está desarrollando otras características de IA para Instagram, incluyendo sugerencias de texto para editar fotos en Instagram Stories y una función de “pincel de IA” que permite a los usuarios editar píxeles individuales en fotos.
¿Cómo está abordando Google el contenido generado por IA?
Google también está trabajando en informar a los consumidores sobre el contenido creado por IA. Tiene previsto lanzar una función “Acerca de esta imagen” para su búsqueda de imágenes, facilitando a los usuarios determinar si una imagen es producto de IA o no.
¿Por qué es importante la transparencia en la era de la IA?
La transparencia es crucial en la era de la IA para brindar a los usuarios más control sobre el contenido con el que interactúan y ayudarles a tomar decisiones informadas sobre la información que consumen. Fomenta la confianza y garantiza el uso responsable de las tecnologías de IA.
¿Cuál es el impacto más amplio de la decisión de Instagram de etiquetar el contenido generado por IA?
La decisión de Instagram de etiquetar el contenido generado por IA es un paso positivo hacia una mayor transparencia y responsabilidad en el uso de las tecnologías de IA. Refleja una creciente conciencia en la industria tecnológica sobre la necesidad de apertura y responsabilidad en la era de la IA para crear un entorno en línea más seguro para todos.
Crédito de la imagen destacada: Unsplash
