Los 3 mayores riesgos de la inteligencia artificial generativa – y cómo lidiar con ellos
Los 3 principales riesgos de la inteligencia artificial generativa - y cómo enfrentarlos
A veces parece que todos en todas partes están jugando con la inteligencia artificial generativa (IA). Desde desarrolladores que producen código hasta marketers que crean contenido, personas de todo tipo de roles están encontrando formas de aumentar su productividad con la tecnología emergente.
La prisa por aprovechar la IA significa que el analista Gartner cree que más del 80% de las empresas utilizarán interfaces de programación de aplicaciones, modelos y software de inteligencia artificial generativa en entornos de producción para 2026.
También: La IA está transformando organizaciones en todas partes. Cómo estas 6 empresas lideran el camino
Pero vale la pena recordar que, a pesar del bombo asociado con la IA generativa, muchas empresas no están experimentando con la tecnología, al menos no oficialmente.
La IA generativa aún se encuentra en la etapa exploratoria para la mayoría de las empresas, según el informe de Gartner, menos del 5% de las empresas utilizan la tecnología en producción.
- El MacBook Air M2 de 2023 acaba de bajar a su precio más bajo de to...
- El Lenovo ThinkPad L14 Gen 3 se redujo a un 77% de descuento en est...
- Finalmente estoy listo para dejar de recomendar la MacBook Air con ...
Lily Haake, jefa de búsqueda ejecutiva de tecnología y digital en la empresa de reclutamiento Harvey Nash, afirma en una videocharla con ENBLE que su trabajo con los clientes sugiere que por ahora los proyectos de IA que son revoluciones no están en agenda.
“Estoy viendo pequeñas pruebas realmente impresionantes, como clientes legales que utilizan IA para generar documentos para escanear expedientes y hacer que las personas sean más productivas”, dice. “Es todo muy emocionante y positivo. Pero es a pequeña escala. Y eso se debe a que mis clientes no parecen estar explorando la IA generativa en un grado tan importante que sea transformadora para todo el negocio”.
En lugar de utilizar la IA para cambiar las operaciones organizativas y mejorar los servicios al cliente, la mayoría de los líderes digitales están experimentando en los límites de la empresa antes de pensar en cómo incorporar nuevos servicios generativos en el núcleo.
Sin embargo, el hecho de que el negocio no haya ordenado el uso de IA generativa no significa que los profesionales no estén utilizando la tecnología, con o sin el consentimiento del jefe.
También: Los avances en IA generativa obligarán a las empresas a pensar en grande y moverse rápido
La investigación del especialista en tecnología O’Reilly sugiere que el 44% de los profesionales de TI ya utilizan IA en su trabajo de programación, y el 34% está experimentando con ella. Casi un tercio (32%) de los profesionales de TI utilizan IA para análisis de datos, y el 38% está experimentando con ella.
Mike Loukides, autor del informe, afirma que O’Reilly se sorprende por el nivel de adopción.
Pero aunque describe el crecimiento de la IA generativa como “explosivo”, Loukides dice que las empresas podrían caer en un “invierno de IA” si ignoran los riesgos y peligros que conlleva la adopción apresurada de la tecnología.
Ese es un sentimiento que resuena con Avivah Litan, vicepresidenta analista distinguida de Gartner, quien sugiere que los directores de tecnología y sus colegas de alto rango no pueden permitirse quedarse de brazos cruzados y esperar.
También: Los mejores chatbots de IA: ChatGPT y otras alternativas destacadas
“Debes gestionar los riesgos antes de que ellos te gestionen a ti”, dice en una entrevista en video uno a uno con ENBLE.
Litan dice que Gartner encuestó a más de 700 ejecutivos sobre los riesgos de la IA generativa en un seminario web reciente y descubrió que los directores de tecnología (CIOs) están más preocupados por la privacidad de los datos, seguidos de las alucinaciones y luego la seguridad.
Consideremos cada una de estas áreas en su turno.
1. Riesgos de privacidad y protección de datos
Los CIO y otros altos directivos que implementan una versión empresarial de IA generativa probablemente enviarán sus datos a los entornos alojados de sus proveedores.
Litan reconoce que ese tipo de acuerdo no es nuevo: las organizaciones han estado enviando datos a la nube y a proveedores de software como servicio durante una década o más.
Sin embargo, dice, los CIO creen que la IA implica un tipo diferente de riesgo, particularmente en cómo los proveedores almacenan y utilizan la información, como para entrenar sus propios modelos de lenguaje grandes.
También: Ciberseguridad 101: Todo sobre cómo proteger tu privacidad y mantenerse seguro en línea
Litan dice que Gartner ha completado un análisis detallado de muchos de los proveedores de TI que ofrecen servicios habilitados para IA.
“La clave de la protección de datos es que, si estás utilizando un modelo de base de terceros, todo se trata de la confianza, pero no puedes verificar”, dice. “Por lo tanto, debes confiar en que los proveedores tienen buenas prácticas de seguridad y que tus datos no se filtrarán. Y todos sabemos que se cometen errores en los sistemas en la nube. Si tus datos confidenciales se filtran, los proveedores no serán responsables, tú lo serás”.
2. Riesgos de entrada y salida
Además de evaluar los riesgos de protección de datos en procesos externos, las organizaciones deben tener en cuenta cómo los empleados utilizan los datos en aplicaciones y modelos de IA generativa.
Litan dice que este tipo de riesgos abarcan el uso inaceptable de datos, lo que puede comprometer el proceso de toma de decisiones, incluyendo ser negligente con las entradas confidenciales, producir alucinaciones inexactas como resultados y utilizar la propiedad intelectual de otra compañía.
También: La ética de la IA generativa: Cómo podemos aprovechar esta poderosa tecnología
Agrega problemas éticos y el temor a que los modelos puedan tener sesgos, y los líderes empresariales se enfrentan a una confluencia de riesgos de entrada y salida.
Litan dice que los ejecutivos encargados de implementar la IA generativa deben asegurarse de que las personas en toda la empresa no den nada por sentado.
“Debes asegurarte de utilizar datos y AI generativa de una manera aceptable para tu organización; no estás entregando las llaves de tu reino y lo que regresa ha sido evaluado para detectar inexactitudes y alucinaciones”, dice.
3. Nuevos riesgos de ciberseguridad
Las empresas lidian con una variedad de riesgos de ciberseguridad a diario, como hackers que obtienen acceso a datos empresariales debido a una vulnerabilidad del sistema o un error de un empleado.
Sin embargo, Litan dice que la IA representa un vector de amenaza diferente.
“Estos son riesgos nuevos”, dice. “Hay ataques de inyección rápida, ataques de bases de datos vectoriales y los hackers pueden acceder a estados y parámetros del modelo”.
También: Cómo la IA puede mejorar la ciberseguridad aprovechando la diversidad
Si bien los posibles riesgos incluyen la pérdida de datos y dinero, los atacantes también podrían optar por manipular modelos y reemplazar datos buenos por datos corruptos.
Litan dice que este nuevo vector de amenaza significa que las empresas no pueden lidiar con los nuevos riesgos simplemente utilizando medidas antiguas y probadas.
“Los atacantes pueden contaminar el modelo”, dice. “Debes asegurar el modelo y es un tipo de seguridad diferente. La protección del punto final no te ayudará con la protección del modelo de datos”.
Lo que tu empresa debe hacer ahora
Esta combinación de riesgos de IA generativa puede parecer un desafío intratable para los CIO y otros altos ejecutivos.
Sin embargo, Litan dice que están surgiendo nuevas soluciones tan rápidamente como los riesgos y oportunidades asociados con la IA generativa.
“No necesitas sentarte allí y entrar en pánico”, dice.
“Hay un nuevo mercado que está evolucionando. Como puedes imaginar, cuando hay problemas, hay emprendedores que quieren ganar dinero con esos problemas”.
La buena noticia es que las soluciones viables están en camino. Y mientras el mercado de tecnología se asienta, Litan dice que los líderes empresariales deben prepararse.
“El consejo fundamental que damos a los CIO es: “Organízate y luego define tus políticas de uso aceptables. Asegúrate de clasificar tus datos y tener gestión de acceso”, dice ella.
“Establece un sistema donde los usuarios puedan enviar sus solicitudes de aplicación, tú sabes qué datos están utilizando, las personas adecuadas aprueban estas solicitudes y revisas el proceso dos veces al año para asegurarte de que se esté aplicando correctamente. Solo toma la IA generativa paso a paso.”
