De acordo com Ryan Lee, diretor de relações com programadores da MiniMax, a empresa disponibilizou em open-source o MiniMax Sparse Attention (MSA), uma biblioteca de atenção de alto desempenho para GPUs NVIDIA Blackwell (SM100), sob a licença MIT. Lee anunciou que os pesos do modelo M3 serão lançados na sexta-feira, 13 de junho.
Quando aplicada à inferência de contexto de milhão de tokens do MiniMax-M3, a MSA reduz o cálculo da atenção em 28,4x em comparação com o Dense GQA com uma configuração equivalente. Em GPUs H800, a biblioteca alcançou um aumento de velocidade no pre-fill de 14,2x e uma aceleração de 7,6x na fase de decodificação.