El software que acelera la IA da a los FPGA una ventaja sobre las GPU

No es ningún secreto que la inteligencia artificial se desarrolla rápidamente y se abre paso en prácticamente todos los campos. La IA impone una carga de trabajo única en sus plataformas informáticas, una donde la paralelización es crucial. Por esta razón, las GPU, que generalmente cuentan con más de 1000 núcleos, se han vuelto preferibles a las CPU cuando se ejecutan redes neuronales, según el contribuyente de Medium, Connor Shorten.

Xilinx plantea que, en algunos escenarios, los FPGA son más útiles que las GPU debido a su paralelismo masivo y su rápida reprogramabilidad. En una entrevista con AAC, el fundador y CEO de Mipsology, Ludovic Larzul, afirmó que los FPGA pueden ofrecer un rendimiento hasta tres o cuatro veces mayor que las GPU. Esto hace que los FPGA sean una plataforma especialmente atractiva para aplicaciones de inteligencia artificial.

Si bien los FPGA son una solución útil en tales escenarios, la aparente compensación aquí es que la programación de un FPGA requiere el conocimiento de lenguajes de descripción de hardware (HDL) esotéricos como VHDL o Verilog.

Ingrese a la plataforma Zebra de Mipsology. Mipsology afirma que su software Zebra es un acelerador de red neuronal que se puede implementar en FPGA sin necesidad de especialistas en HDL y sin necesidad de cambiar su configuración actual.

Zebra: una plataforma que hace accesibles los FPGA

Zebra se concibió como un medio para reemplazar las CPU / GPU en las plataformas informáticas de IA mientras se hacía invisible el cambio para el científico de IA. Esto significa que para ellos, no habría cambios en su trabajo. En lo que respecta a estos científicos, todavía están trabajando en un dispositivo tipo GPU; Resulta que es cinco veces más rápido, según Mipsology.

Apila en GPU vs. apila en Zebra. Imagen utilizada por cortesía de Xilinx

Larzul dice que si bien las GPU y los FPGA utilizan la misma base, las GPU suelen tener más transistores. A pesar de las ventajas de procesamiento de más transistores, las GPU también enfrentan problemas o una vida útil más corta, mayor producción de calor (y demanda de refrigeración) y más consumo de energía.

«Los FPGA respaldados por cebra dan mucha libertad [for designers]»Larzul explica.» La transición es fácil y puede caber en sistemas con muchas restricciones. Cebra . . crea la posibilidad de implementar sin cambiar el marco. No se necesita trabajo adicional de I + D para rediseñar las redes neuronales «.

El sitio web de la compañía explica que los diseñadores pueden implementar el software sin experiencia en tecnología de hardware subyacente o herramientas de compilación. Como Larzul describió, esto significa que los programadores no necesitarán cambiar la red neuronal, el marco, la capacitación o la aplicación.

Por esta razón, el contribuyente de AAC Gary Elinoff recientemente incluyó la plataforma Zebra en su resumen de recursos que están haciendo que los FPGA sean más accesibles para los especialistas que no son FPGA que nunca.

Xilinx utiliza Zebra para sus FPGA

Xilinx anunció recientemente que enviarán a Zebra con la última versión de sus tarjetas Alveo U50 para el centro de datos. Esta noticia, sin embargo, no marca la primera vez que estas compañías se unen. Xilinx ya tiene una lista de FPGA que han implementado Zebra, incluidas sus placas Alveo U200 y Alveo U250.

Tarjeta aceleradora de centro de datos Alveo U250

Tarjeta aceleradora del centro de datos Alveo U250, que ahora implementa Zebra. Imagen (modificada) utilizada por cortesía de Xilinx

Ludo Larzul dice: “Zebra ofrece el mayor rendimiento posible y facilidad de uso para la aceleración de inferencia. Con el Alveo U50, Xilinx y Mipsology están proporcionando a los desarrolladores de aplicaciones de IA una tarjeta que sobresale en múltiples aplicaciones y en todos los entornos de desarrollo «.

Implicaciones de un FPGA que supera las GPU

Hacer que los FPGA sean más fáciles de usar y más accesibles probablemente tendrá profundas implicaciones en los centros de datos y, en general, en las aplicaciones de inteligencia artificial. Los FPGA generalmente funcionan más rápido y con menos potencia que las GPU convencionales en aplicaciones de IA. Esto significa menos consumo de energía y, por consiguiente, menos recursos de refrigeración y mantenimiento en los centros de datos.

En lo que respecta a la Mipsología, no hay señales de que se desaceleren en el corto plazo. Ya tienen 12 patentes pendientes y continúan trabajando estrechamente con Xilinx. Su software también es compatible con aceleradores de terceros, incluidos algunos de Western Digital y Advantech.


¿Trabaja con FPGA o GPU para aplicaciones basadas en IA? ¿Cuáles son sus mayores desafíos de diseño y cómo los supera? Comparte tu experiencia en los comentarios a continuación.

Source link

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *