Advertencia para padres Este Chatbot puede hablar sobre sexo y alcohol con su hijo
Advertencia para los padres Este chatbot puede conversar con su hijo sobre temas relacionados con sexo y alcohol
La crianza de los hijos en 2023 requiere hablar con tus hijos no solo sobre los peligros de internet y las redes sociales, sino también sobre la inteligencia artificial que se está extendiendo rápidamente en casi todas las aplicaciones o servicios en línea. Common Sense Media, la organización sin fines de lucro que califica películas y otros medios para padres, está tratando de ayudar a las familias a adaptarse a la era de la inteligencia artificial. Hoy lanzó su primero análisis y calificaciones de herramientas de IA, incluyendo ChatGPT de OpenAI y el chatbot My AI de Snapchat.
My AI recibió una de las puntuaciones más bajas entre los 10 sistemas cubiertos en el informe de Common Sense, que advierte que el chatbot está dispuesto a hablar con adolescentes sobre sexo y alcohol, y que tergiversó la publicidad dirigida de Snap. Common Sense concluye que hay “más desventajas en My AI que beneficios”.
The Washington Post informó anteriormente resultados similares a los de Common Sense al probar el MyAI de Snapchat a principios de este año. Una declaración proporcionada por Maggie Cherneff en nombre del propietario de Snapchat, Snap, dijo que el chatbot es una herramienta opcional diseñada con seguridad y privacidad en mente, y que los padres pueden ver si y cuándo los adolescentes lo usan en el Centro Familiar de la aplicación.
Las reseñas de los servicios de IA de Common Sense fueron realizadas por expertos que incluyeron a Michael Preston, director de un laboratorio de innovación e investigación con Sesame Street producer Sesame Workshop; Margaret Mitchell, una investigadora de la startup Hugging Face que anteriormente co-lideró la investigación de ética en IA de Google; y Tracy Pizzo Frey, que anteriormente trabajó en IA responsable en Google Cloud.
Los revisores asignaron a cada herramienta de IA una calificación general de una a cinco estrellas y una calificación de privacidad separada, y reportaron cómo se comparaban ChatGPT y otros con un conjunto de principios de IA para servicios para niños y familias introducidos por Common Sense Media en septiembre. Los principios incluyen promover el aprendizaje y mantener seguros a los niños y adolescentes.
- 10 útiles consejos y trucos de Gmail que todos deberían conocer | E...
- Todos los mejores consejos y trucos de macOS Sonoma que necesitas s...
- Las mejores ofertas de Black Friday en RAM Ahorra en kits DDR4 y DD...
Las calificaciones más altas se otorgaron a servicios de IA para la educación como Ello, que utiliza reconocimiento de voz para actuar como tutor de lectura, y el asistente de chatbot Khanmigo de Khan Academy para estudiantes, que permite a los padres monitorear las interacciones de un niño y envía una notificación si los algoritmos de moderación de contenido detectan un intercambio que viola las pautas de la comunidad. El informe acredita a OpenAI, el creador de ChatGPT, por hacer que el chatbot sea menos propenso a generar texto potencialmente dañino para los niños en comparación con cuando se lanzó por primera vez el año pasado, y recomienda su uso por parte de educadores y estudiantes mayores.
Junto con el My AI de Snapchat, los generadores de imágenes Dall-E 2 de OpenAI y Stable Diffusion de la startup Stability AI también obtuvieron puntuaciones bajas. Los revisores de Common Sense advierten que las imágenes generadas pueden reforzar estereotipos, difundir deepfakes y a menudo representar a mujeres y niñas de manera hipersexualizada.
Cuando se le pide a Dall-E 2 que genere imágenes fotorrealistas de personas de color adineradas, crea caricaturas, imágenes de baja calidad o imágenes asociadas a la pobreza, encontraron los revisores de Common Sense. Su informe advierte que Stable Diffusion representa un riesgo “incomprensible” para los niños y concluye que los generadores de imágenes tienen el poder de “socavar la confianza hasta el punto en que la democracia o las instituciones cívicas no pueden funcionar”.
“Creo que todos sufrimos cuando la democracia se erosiona, pero los jóvenes son los más perjudicados, porque heredarán el sistema político y democrático que tenemos”, dice Jim Steyer, CEO de Common Sense. La organización sin fines de lucro tiene planes de llevar a cabo miles de revisiones de inteligencia artificial en los próximos meses y años.
Common Sense Media publicó sus calificaciones y revisiones poco después de que los fiscales generales estatales presentaran una demanda contra Meta alegando que pone en peligro a los niños, y en un momento en que los padres y maestros están empezando a considerar el papel de la inteligencia artificial generativa en la educación. La orden ejecutiva del presidente Joe Biden sobre inteligencia artificial emitida el mes pasado requiere que el secretario de educación emita orientación sobre el uso de la tecnología en la educación en el próximo año.
Susan Mongrain-Nock, madre de dos hijos en San Diego, sabe que su hija de 15 años usa Snapchat y tiene preocupaciones sobre que vea contenido perjudicial. Ha intentado construir confianza hablando con su hija sobre lo que ve en Snapchat y TikTok, pero dice que sabe poco sobre cómo funciona la inteligencia artificial, y le da la bienvenida a nuevos recursos.
Hablar con tus hijos sobre cómo funciona la inteligencia artificial como ChatGPT y sus limitaciones debería ayudar, dice Celeste Kidd, directora de un laboratorio de investigación de inteligencia artificial en UC Berkeley. Ella dice que los resultados de una encuesta realizada por Common Sense y publicada en mayo que encontró que la mayoría de los padres desconocen que sus hijos usan ChatGPT son preocupantes. Sugiere que la inteligencia artificial podría estar moldeando la perspectiva del mundo de los niños sin el conocimiento de sus padres.
A Kidd le preocupa principalmente los efectos a largo plazo de la inteligencia artificial de generación de imágenes como Dall-E 2. “Si un niño genera imágenes de médicos y criminales, y la inteligencia artificial exagera los sesgos y retrata estereotipos como lo hace, eso va a influir mucho más en los niños que en los adultos”, dice.
Josh Golin, director ejecutivo de Fair Play for Kids, una organización de defensa que apoya legislación para proteger a los jóvenes, como la Ley de Seguridad en Línea para Niños, dice que las nuevas calificaciones de Common Sense son un nuevo recurso bienvenido para los padres. Pero dice que en última instancia se necesita una nueva regulación para contener los peligros de la inteligencia artificial. “Si hay una lección que hemos aprendido de la falta de regulación adecuada en las redes sociales es que los diseñadores de estos productos priorizarán la monetización sobre el bienestar de la sociedad y los niños”, dice Golin.
