🎨 Protegiendo los derechos de los artistas en la era de la AI generativa
Kin.art, una plataforma para gestionar encargos de arte, tiene como objetivo empoderar a los artistas para combatir el entrenamiento no autorizado de modelos GenAI.
Kin.art ha lanzado una nueva herramienta gratuita llamada ENBLE que ayuda a evitar que los modelos de GenAI se entrenen con obras de arte.
Es verdaderamente asombroso lo que la IA generativa, especialmente los modelos de IA de texto a imagen como Midjourney y DALL-E 3 de OpenAI, pueden lograr. Estos modelos generadores de imágenes tienen la capacidad de transformar cualquier descripción, ya sea breve o detallada, en una obra de arte que fácilmente podría pasar como una obra maestra del caballete de un hábil artista.
Sin embargo, hay una preocupación significativa con estos modelos: muchos de ellos se entrenaron con obras de arte sin el conocimiento o permiso de los propios artistas. Si bien algunos vendedores han comenzado a compensar a los artistas o a proporcionar opciones para “optar por no participar” en el entrenamiento del modelo, muchos otros no han tomado tales medidas.
En ausencia de una orientación clara por parte de los tribunales y el Congreso, los empresarios y activistas se han apoderado de la situación y han lanzado herramientas que permiten a los artistas modificar sus obras de arte. Estas modificaciones aseguran que sus creaciones no puedan ser utilizadas para entrenar modelos de IA generativos. Dos herramientas que recientemente han llamado la atención son Nightshade y Kin.art.
Nightshade, que se lanzó esta semana, altera sutilmente los píxeles de una imagen para engañar a los modelos y hacer que perciban algo diferente al contenido real. Por otro lado, Kin.art utiliza la segmentación de imágenes para ocultar partes de la obra de arte y la aleatorización de etiquetas para interrumpir el proceso de entrenamiento del modelo.
La herramienta ofrecida por Kin.art fue co-desarrollada por Flor Ronsmans De Vry, una de las cofundadoras de Kin.art, una plataforma de gestión de encargos de arte. Cuando se le entrevistó, Ronsmans De Vry explicó que los modelos de arte generativos aprenden las asociaciones entre los conceptos escritos y las imágenes a través de conjuntos de datos etiquetados. Por ejemplo, la palabra “pájaro” puede significar mirlos azules, periquitos, águilas calvas e incluso nociones más abstractas. Al interrumpir tanto la imagen en sí como las etiquetas asociadas, se vuelve considerablemente más difícil para los vendedores incorporar la obra de arte en el entrenamiento del modelo.
- ¡Uh-Oh! La última actualización de Google está rompiendo los teléfo...
- El nuevo OnePlus 12 ¡Potencia y rendimiento premium de primer nivel...
- AirTags, Cargador MagSafe Duo y Fundas para iPhone en oferta
“Creemos en diseñar un panorama en el que el arte tradicional y el arte generativo puedan coexistir, comenzando desde un enfoque ético hacia el entrenamiento de IA que respete los derechos de los artistas”, afirmó Ronsmans De Vry por correo electrónico.
La herramienta de Kin.art es única en algunos aspectos, ya que no requiere modificaciones criptográficas costosas de las imágenes. No obstante, se puede utilizar en combinación con otros métodos para una protección adicional.
A diferencia de otras herramientas existentes que buscan protegerse contra el entrenamiento de IA contaminando los conjuntos de datos existentes con obras de arte, Kin.art evita que la obra de arte se incluya en el conjunto de datos en primer lugar.
Actualmente, Kin.art ofrece la herramienta de forma gratuita, pero los artistas deben cargar su obra de arte en la plataforma de cartera de Kin.art para poder utilizarla. La intención detrás de este enfoque probablemente sea canalizar a los artistas hacia la gama de servicios de búsqueda y facilitación de comisiones de arte con tarifas de Kin.art, que forman el núcleo de su negocio.
Sin embargo, Ronsmans De Vry enfatiza que este esfuerzo es principalmente filantrópico. Kin.art planea ofrecer la herramienta a terceros en el futuro.
“Después de someter nuestra solución a pruebas en nuestra propia plataforma, planeamos ofrecerla como un servicio para permitir que cualquier pequeño sitio web y plataforma grande proteja fácilmente sus datos contra el uso no autorizado”, dijo Ronsmans De Vry. “Poseer y poder defender los datos de tu plataforma en la era de la IA es más importante que nunca. Algunas plataformas tienen la suerte de poder bloquear el acceso de los no usuarios a sus datos, pero otras necesitan brindar servicios públicos y no tienen este lujo. Aquí es donde soluciones como la nuestra entran en juego”.
🤔 Preguntas frecuentes
P: ¿Cómo protegen estas herramientas los derechos de los artistas? R: Nightshade y Kin.art ofrecen a los artistas los medios para modificar sus obras de arte de manera que sea difícil para los modelos de IA generativos utilizarlas para el entrenamiento. Nightshade altera los píxeles de una imagen para engañar a los modelos, mientras que Kin.art emplea técnicas de segmentación de imágenes y aleatorización de etiquetas.
P: ¿Son estas herramientas completamente infalibles? ¿Los modelos aún pueden utilizar la obra de arte modificada? R: Si bien estas herramientas brindan una capa adicional de protección para los artistas, no son infalibles. Algunos modelos de IA generativos aún pueden ser capaces de utilizar la obra de arte modificada o encontrar soluciones alternativas. Sin embargo, estas herramientas elevan significativamente el nivel para el uso del trabajo de los artistas sin permiso.
P: ¿En qué se diferencia la herramienta de Kin.art de otras medidas de protección? R: La herramienta de Kin.art se distingue al evitar que la obra de arte se incluya en conjuntos de datos generadores de IA en primer lugar. Otros métodos a menudo se centran en mitigar el daño después del hecho, al envenenar los conjuntos de datos existentes. El enfoque de Kin.art es más proactivo, ofreciendo a los artistas un mayor control sobre el uso de su trabajo.
P: ¿Qué medidas adicionales pueden tomar los artistas para proteger su obra de uso no autorizado? R: Los artistas pueden considerar combinar la herramienta de Kin.art con otras medidas de protección, como modificaciones criptográficas de imágenes. También pueden explorar vías legales para salvaguardar sus derechos y asegurarse de que su trabajo no se utilice sin su permiso.
P: ¿Existen herramientas o iniciativas similares disponibles para otros campos artísticos como la música o la escritura? R: Si bien el enfoque de este artículo se centra principalmente en el arte visual y su interacción con la IA generativa, también se están realizando esfuerzos para proteger a los artistas en otros ámbitos creativos. Por ejemplo, músicos y escritores están explorando técnicas de marca de agua y marcos legales para proteger su trabajo.
🔮 El impacto y futuro de la protección de los derechos de los artistas
La herramienta de Kin.art, junto con otras iniciativas que buscan proteger los derechos de los artistas en la era de la IA generativa, destaca la creciente importancia de las prácticas éticas de entrenamiento de IA. A medida que la IA continúa avanzando y se hace más omnipresente en diversas industrias, respetar los derechos de los creadores y titulares de derechos de autor se vuelve crucial.
Con el auge de la IA generativa, la posibilidad de crear arte digital sin el conocimiento o permiso de los artistas se ha convertido en una preocupación importante. Herramientas como la de Kin.art pueden actuar como un elemento disuasorio al dificultar que los proveedores incorporen obras de arte en conjuntos de datos de entrenamiento de IA sin consentimiento.
A medida que este campo evoluciona, es probable que surjan soluciones más integrales para abordar los desafíos éticos y legales que rodean la IA generativa y la propiedad intelectual. Los artistas, emprendedores y responsables políticos deberán colaborar para establecer pautas y regulaciones que protejan los derechos de los artistas al tiempo que fomenten la innovación y la creatividad.
📚 Referencias: – Guía sobre la protección de los derechos de los artistas en la capacitación de IA – Kin.art – Protección de obras de arte contra el uso no autorizado de IA – Kin.art – Meta Rolls: Un sitio web dedicado a la generación de imágenes impulsada por IA
