Meta revela su primer chip de IA personalizado
Meta presenta su primer chip de IA personalizado
Meta presentó el jueves su primer chip, el MTIA, que dijo estaba optimizado para ejecutar motores de recomendación y se beneficia de la estrecha colaboración con los desarrolladores de PyTorch de la compañía.
Meta, propietaria de Facebook, WhatsApp e Instagram, presentó el jueves su primer chip diseñado especialmente para procesar programas de inteligencia artificial, llamado Meta Training and Inference Accelerator, o “MTIA”.
El chip, que consta de una malla de bloques de circuitos que operan en paralelo, ejecuta software que optimiza programas utilizando el marco de desarrollo de código abierto PyTorch de Meta.
También: ¿Qué es el aprendizaje profundo? Todo lo que necesitas saber
Meta describe el chip como ajustado para un tipo particular de programa de IA: los modelos de recomendación de aprendizaje profundo. Estos son programas que pueden analizar un patrón de actividad, como hacer clic en publicaciones en una red social, y predecir material relacionado, posiblemente relevante, para recomendar al usuario.
- El crítico de IA Gary Marcus LeCun de Meta finalmente está comenzan...
- El verdadero objetivo de la IA puede que ya no sea la inteligencia
- Estos son los productos más antiguos de Apple que todavía se venden...
El chip es la versión uno de lo que Meta se refiere como una familia de chips, y se comenzó en 2020. No se ofrecieron detalles sobre cuándo llegarán futuros modelos del chip.
Meta sigue a otras grandes compañías de tecnología que han desarrollado sus propios chips para IA además de utilizar los chips GPU estándar de Nvidia que han dominado el campo. Microsoft, Google y Amazon han presentado múltiples chips personalizados en los últimos años para manejar diferentes aspectos de los programas de IA.
También: Nvidia, Dell y Qualcomm aceleran los resultados de IA en las últimas pruebas de referencia
El anuncio de Meta fue parte de una amplia presentación el jueves en la que varios ejecutivos de Meta discutieron cómo están fortaleciendo las capacidades informáticas de Meta para la inteligencia artificial.
Además del chip MTIA, la compañía habló sobre un “centro de datos de última generación” que está construyendo y que “será un diseño optimizado para IA, compatible con hardware de IA refrigerado por líquido y una red de IA de alto rendimiento que conecta miles de chips de IA para clústeres de entrenamiento de IA a escala de centro de datos”.
También: ChatGPT y la nueva IA están causando estragos en la ciberseguridad
Meta también reveló un chip personalizado para codificar video, llamado Meta Scalable Video Processor. El chip está diseñado para comprimir y descomprimir video de manera más eficiente y codificarlo en múltiples formatos diferentes para cargar y ver por parte de los usuarios de Facebook. Meta dijo que el chip MSVP “puede ofrecer un rendimiento máximo de transcodificación de 4K a 15 fps en la configuración de mayor calidad con transmisiones de 1 entrada y 5 salidas, y puede escalar hasta 4K a 60 fps en la configuración de calidad estándar”.
En lugar de depender de las GPU de Nvidia o de las CPU de Intel, Meta dijo que “con miras a los casos de uso futuros relacionados con la IA, creemos que el hardware dedicado es la mejor solución en términos de potencia informática y eficiencia” para el video. La compañía señaló que las personas pasan la mitad de su tiempo en Facebook viendo videos, con más de cuatro mil millones de reproducciones de video al día.
También: Conoce al desarrollador post-IA: más creativo, más enfocado en los negocios
Meta ha insinuado durante años el desarrollo de un chip, como cuando su científico jefe de IA, Yann LeCun, fue entrevistado por ENBLE en 2019 sobre el tema. La compañía guardó silencio sobre los detalles de esos esfuerzos, incluso cuando sus competidores lanzaron chip tras chip, y cuando surgieron startups como Cerebras Systems, Graphcore y SambaNova Systems para desafiar a Nvidia con chips exóticos centrados en IA.
El MTIA tiene aspectos similares a los chips de las startups. En el corazón del chip, una malla de sesenta y cuatro elementos de procesador, dispuestos en una cuadrícula de ocho por ocho, recuerda muchos diseños de chips de IA que adoptan lo que se llama una “matriz sistólica”, donde los datos pueden moverse a través de los elementos a máxima velocidad.
El chip MTIA es algo inusual ya que está construido para manejar las dos principales etapas de los programas de inteligencia artificial, el entrenamiento y la inferencia. El entrenamiento es la etapa en la que la red neuronal de un programa de IA se perfecciona hasta que funciona como se espera. La inferencia es el uso real de la red neuronal para hacer predicciones en respuesta a las solicitudes del usuario. Por lo general, las dos etapas tienen requisitos muy diferentes en términos de procesamiento informático y se manejan mediante diseños de chips distintos.
También: Esta nueva tecnología podría superar a GPT-4 y todo lo similar
Según Meta, el chip MTIA puede ser hasta tres veces más eficiente que las GPUs en términos del número de operaciones de punto flotante por segundo por cada vatio de energía consumida. Sin embargo, cuando el chip se enfrenta a redes neuronales más complejas, se queda rezagado en comparación con las GPUs, según indicó Meta, lo que indica que se necesita más trabajo en futuras versiones del chip para manejar tareas complejas.
La presentación de Meta realizada por sus ingenieros el jueves hizo hincapié en cómo el MTIA se beneficia del “diseño conjunto” de hardware y software, donde los ingenieros de hardware intercambian ideas en un diálogo constante con los desarrolladores de PyTorch de la empresa.
Además de escribir código para ejecutar en el chip en PyTorch o C++, los desarrolladores pueden escribir en un lenguaje dedicado desarrollado para el chip llamado KNYFE. El lenguaje KNYFE “toma una descripción breve y de alto nivel de un operador de aprendizaje automático como entrada y genera código de kernel C++ optimizado y de bajo nivel que es la implementación de este operador para MTIA”, dijo Meta.
También: Nvidia dice que puede evitar que los chatbots alucinen
Meta discutió cómo integró múltiples chips MTIA en computadoras de servidor basadas en el Proyecto Open Compute que Meta ayudó a pionerar.
Se proporcionan más detalles sobre el MTIA en una publicación de blog de Meta.
Los ingenieros de Meta presentarán un artículo sobre el chip en la conferencia International Symposium on Computer Architecture en Orlando, Florida, en junio, titulado “MTIA: First Generation Silicon Targeting Meta’s Recommendation System”.
