Meta lanzó los pesos de Muse Spark Open, un modelo de IA de 816 mil millones de parámetros que, según la empresa, es el “modelo de pesos abiertos estadounidense más capaz hasta ahora”. Está pensado para programación y tareas de agentes.
Un modelo grande que cabe en un escritorio
Muse Spark Open es una mezcla de expertos que activa unos 42 mil millones de parámetros por token, es multimodal (acepta texto, imágenes, video y audio y responde con texto) y tiene una ventana de contexto de 1 millón de tokens. Meta dice que es el primero de su clase que corre en un escritorio: con dos Mac Studio con M5 Ultra y 512 GB de memoria unificada cada una, usando la versión comprimida de 4 bits con el framework MLX de Apple. También se puede servir con cuatro Mac Studio de 256 GB. En su precisión original, necesitaría más de 1.6 TB de memoria. La configuración de 512 GB llegará a la venta este mes.
Funciona con motores como SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, llama.cpp y Unsloth, con optimizaciones para AMD, Apple, Intel y NVIDIA.
Dónde conseguirlo y qué licencia tiene
Los pesos están en Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden y Microsoft Foundry, y el modelo está disponible por API en Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter y Together AI. Se publica bajo la Muse Model License, con términos comerciales limitados, que permiten a muchos desarrolladores usarlo gratis.
Muse Spark salió en abril como un modelo cerrado, una ruptura con los Llama abiertos anteriores. La versión abierta recibió entrenamiento de seguridad adicional para resistir el mal uso sin protecciones externas.