Proyecto en GitHub busca extender compatibilidad de MLX de Apple a GPUs Nvidia mediante backend CUDA en desarrollo
Un proyecto en GitHub desarrolla un backend CUDA para ampliar la compatibilidad de MLX, inicialmente exclusivo de Apple Silicon.
Hasta ahora, trabajar con el marco de aprendizaje automático de Apple, MLX, requería utilizar una Mac con chips M de alta potencia. Los entusiastas de herramientas como LM Studio, que permiten ejecutar modelos de lenguaje locales, preferían esta plataforma para aprovechar al máximo la integración con los SoC de Apple y su memoria unificada. Sin embargo, un proyecto en GitHub está ampliando la compatibilidad de MLX a otras plataformas mediante un nuevo backend desarrollado para Nvidia CUDA.
Este backend CUDA aún está en desarrollo y no ha sido lanzado oficialmente. Cuando esté finalizado, permitirá adaptar modelos MLX para que puedan ejecutarse en GPUs Nvidia, facilitando así su uso en sistemas con hardware más potente. Además, abrirá la posibilidad de entrenar modelos en superordenadores y clústeres científicos, dado que CUDA soporta memoria unificada y es ampliamente utilizado en ámbitos de ciencias y computación de alto rendimiento.
El proyecto, cuyo principal desarrollador del backend CUDA es zcbenz, de Japón, cuenta con financiación parcial de Apple. Según el propio desarrollador, una de las principales ventajas de tener un backend basado en CUDA es su soporte para memoria unificada, lo que simplifica el desarrollo y el entrenamiento de modelos. Además, la popularidad de Nvidia en sectores científicos y en grandes infraestructuras computacionales convierte esta compatibilidad en una estrategia clave para ampliar el alcance de MLX.
MLX está optimizado para Apple Silicon y utiliza la interfaz gráfica Metal para GPU. La transición hacia CUDA implicaría un cambio en la compatibilidad, pero permitiría aprovechar el amplio ecosistema y la comunidad que rodea a Nvidia. El framework cuenta con enlaces para Swift, C y C++, facilitando su integración en diversas aplicaciones y entornos de desarrollo.
El proyecto sigue en fases iniciales y la versión para CUDA aún está en desarrollo. Aunque se espera que en el futuro la compatibilidad con Nvidia expanda el uso de MLX a nuevas plataformas, aún no hay una fecha de lanzamiento oficial. La comunidad y el personal desarrollador mantienen la expectativa de que, una vez maduro, MLX facilitará una experiencia de desarrollo más eficiente y una mayor difusión de modelos de aprendizaje automático en distintos entornos de hardware avanzado.