Meta pretende etiquetar imágenes generadas por IA para combatir la desinformación 🌐📸
Meta para aumentar la clasificación de imágenes generada por inteligencia artificial en Facebook, Instagram y Threads en los próximos meses; audio y video seguirán como herramientas de terceros que comenzarán a utilizar señales invisibles estándar de la industria.
Meta planea aumentar las etiquetas de imágenes generadas por IA en sus plataformas.
📢 ¡Atención, usuarios de Facebook e Instagram! Meta, anteriormente conocido como Facebook, está intensificando su juego en la batalla contra la desinformación. El gigante de las redes sociales planea introducir etiquetas en imágenes generadas por IA en todas sus plataformas para dejar claro que estas imágenes no son reales, son virtuales. 💥💻
🔍 Meta está trabajando con socios de la industria para establecer estándares que incluyan indicadores para identificar si una imagen, video o clip de audio ha sido generado mediante IA. El presidente de asuntos globales de Meta, Nick Clegg, escribió en una publicación de blog que la compañía tiene como objetivo etiquetar imágenes generadas por IA en todos los idiomas admitidos en Facebook, Instagram y Threads. Esta medida no solo busca combatir la propagación de desinformación, sino también obtener información sobre cómo las personas crean y comparten contenido de IA. 🌐🎬
🔖 Las herramientas de Meta serán capaces de detectar señales invisibles alineadas con los estándares técnicos C2PA e IPTC, lo que les permitirá identificar y etiquetar con precisión imágenes de diversas plataformas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. Estas plataformas han integrado metadatos generados por IA en las imágenes que crean. Meta está adoptando un enfoque proactivo para garantizar la transparencia y la responsabilidad en la era del contenido generado por IA. 👀📷
🎥 Sin embargo, cuando se trata de videos y audio generados por IA, el desafío no es tan fácil de vencer. Meta destaca que estas industrias aún no han incorporado señales invisibles en sus productos en la misma medida que las imágenes. Como resultado, Meta no puede detectar automáticamente contenido de video y audio generado por IA de terceros. Por ahora, Meta depende de los usuarios para que revelen y etiqueten voluntariamente dicho contenido al compartirlo. 🎶🚫
🚫 Este enfoque de auto-revelación puede levantar algunas cejas, ya que pone la responsabilidad en los usuarios que pueden tener intenciones maliciosas o que quizás no comprendan completamente las pautas. Aun así, Meta está decidido a explorar formas de detectar contenido generado por IA que carezca de marcadores invisibles y garantizar un entorno digital más seguro. 🕵️♂️🔒
- La Junta de Supervisión de Meta pide una actualización de la políti...
- Las luchas de olvidar el código de acceso del Apple Vision Pro 🤦♂️
- 💔 Estafas románticas en línea en aumento ¡Protege tu corazón (y tu...
🤖 Para dificultar aún más que las personas alteren o eliminen marcadores invisibles del contenido generado por IA, el laboratorio de investigación de IA de Meta, FAIR AI, ha desarrollado tecnología que integra marcas de agua directamente en el proceso de generación de imágenes. Esta característica valiosa protegerá mejor las imágenes, especialmente aquellas creadas por modelos de código abierto, donde las marcas de agua no se pueden desactivar fácilmente. Meta también está trabajando activamente en la detección automática de contenido generado por IA que carece de marcadores invisibles. 💦🔍
🧠 Meta comprende la importancia de la colaboración y el diálogo continuo en este entorno en evolución del contenido generado por IA. Busca colaborar con socios de la industria, involucrarse con gobiernos y sociedades civiles, y adaptar sus estrategias para enfrentar de manera efectiva los desafíos planteados por la tecnología impulsada por IA. 🤝🌍
🔀 No obstante, hay un posible obstáculo para el enfoque de Meta. Para detectar automáticamente contenido generado por IA sin depender de marcadores invisibles, Meta necesita la cooperación y el respaldo de sus socios. Soluciones como C2PA requieren que tanto las herramientas de creación de imágenes como las plataformas de alojamiento las adopten. El éxito de este método depende en gran medida de la disposición de estas partes interesadas para adoptar prácticas estándar de la industria. 🤝💼
📉 Este desarrollo se produce poco después de que Mark Zuckerberg, CEO de Meta, revelara los planes de la compañía para crear una inteligencia artificial general. Con un extenso conjunto de datos de fotos y videos en Facebook e Instagram, que supera el conjunto de datos Common Crawl que contiene miles de millones de páginas web, Meta tiene una clara ventaja en el entrenamiento de modelos de IA avanzados. La abundancia de datos de entrenamiento coloca a Meta como líder en la carrera de IA. 🏃♂️💪
🔎 El impulso para etiquetar el contenido generado por IA se alinea con el compromiso de Meta de abordar las preocupaciones sobre los medios manipulados. Recientemente, el Comité de Supervisión de Meta permitió que un video editado de manera engañosa permaneciera en la plataforma, lo que generó debates sobre la necesidad de actualizar las pautas de la comunidad. Meta busca evaluar y mejorar continuamente sus políticas para mantener un entorno confiable y seguro para sus usuarios. ⚖️✅
Preguntas y respuestas:
P: ¿Cómo etiquetará Meta las imágenes generadas por IA?
R: Meta tiene planes de establecer estándares en colaboración con socios de la industria para identificar contenido generado por IA. Estos indicadores se aplicarán como etiquetas y serán visibles para los usuarios en Facebook, Instagram y Threads.
P: ¿Puede Meta detectar automáticamente videos y audio generados por IA?
R: Actualmente, Meta no tiene la capacidad de detectar automáticamente videos y audio generados por IA. Los usuarios son responsables de revelar y etiquetar voluntariamente dicho contenido.
P: ¿Qué desafíos enfrenta Meta al detectar contenido generado por IA?
R: El enfoque de Meta para detectar contenido generado por IA sin depender de marcadores invisibles requiere la cooperación de socios. Las plataformas y herramientas de creación deben adoptar prácticas estándar de la industria para una detección efectiva.
P: ¿Cómo le da a Meta su vasto conjunto de datos una ventaja en la construcción de modelos de IA?
R: Con un extenso conjunto de datos de fotos y videos compartidos en Facebook e Instagram, superando a otros conjuntos de datos en escala, Meta posee un recurso valioso para entrenar modelos de IA avanzados.
P: ¿Actualizará Meta sus pautas comunitarias en respuesta a los medios manipulados?
R: Sí, la Junta de Supervisión de Meta ha instado a la empresa a actualizar sus pautas comunitarias para abordar las preocupaciones sobre los medios manipulados. Meta está comprometida a mejorar continuamente sus políticas para garantizar una plataforma confiable y segura.
🌐📢 En una era dominada por contenido generado por IA, la iniciativa de etiquetado de Meta es un paso significativo hacia la lucha contra la desinformación y garantizar la transparencia. A medida que la tecnología evoluciona, el compromiso de Meta con la colaboración, la investigación y la participación de los usuarios lo posiciona como líder en la industria. Con su vasto conjunto de datos y enfoque en la seguridad del usuario, Meta está preparada para dar forma al futuro del contenido generado por IA. ¡Naveguemos juntos por este mundo impulsado por IA! 🚀💻
🔍 Referencias:
- Meta faces another EU privacy challenge por TechCrunch
- What Happens When Facebook Heats Up at Home? por Enble
- Opting out of link history on Facebook and Instagram means agreeing to more ad targeting por Enble
- Instagram Head Adam Mosseri Says Sorry for Trashy Threads Recommendations por Enble
- LG developed a two-legged AI-powered robot to watch your pets por Enble
- BOFA gives Meta-backed Jio Platforms $100 billion-plus valuation por TechCrunch
