MiniMax-M3.1-Flash 开源:428B 参数 / 23B 激活,推理速度提升近 3 倍!
推荐理由MiniMax 本次开放权重并提供两类推理引擎的部署路径,让模型团队能把性能与成本判断推进到自主部署评估,而非只比较排行榜。
读前速览
MiniMax 正式开源 MiniMax M3.1 Flash 模型权重,总参数量 428B,激活参数量 23B,相较 MiniMax M3,在智能体任务、编程、计算机操作及网络安全能力上进一步提升,推理速度提升近 3 倍,使用成本降低 70%。
能力提升
MiniMax M3.1 Flash 在智能体任务、编程、计算机操作及网络安全能力上相较前代产品有显著提升,重点从'理解任务'推进到'调用工具、连续操作并完成交付'。
技术优化
模型通过将前三个全注意力层替换为稀疏注意力、采用量化感知训练降低精度,以及使用功耗感知调度优化计算分配,实现了近 3 倍的推理速度提升和 70% 的成本降低。
部署支持
MiniMax M3.1 Flash 支持通过 SGLang 和 vLLM 进行本地部署,并提供了详细的安装和调用指南,方便用户在多 GPU 服务器上运行。
完整摘要
MiniMax M3.1 Flash 是基于 MiniMax M3 的优化版本,通过稀疏注意力、量化感知训练和功耗感知调度,实现了显著的性能和成本优化。该模型在复杂 Agent 任务、软件工程、Computer Use 和网络安全等领域表现突出,并支持通过 SGLang 和 vLLM 进行本地部署。
目录 · 9 节
魔搭ModelScope社区 2026-10-23 17:46 浙江
MiniMax 正式开源 MiniMax M3.1 Flash 模型权重,总参数量 428B,激活参数量 23
MiniMax 正式开源MiniMax M3.1 Flash模型权重,总参数量 428B,激活参数量 23B。 Space Bunny 是 MiniMax M3.1 Flash 的早期版本。
相较 MiniMax M3,MiniMax M3.1 Flash 在智能体任务、编程、计算机操作及网络安全能力上进一步提升。技术上,MiniMax M3.1 Flash 将前三个全注意力层替换为稀疏注意力,采用量化感知训练降低专家计算和 KV 缓存精度,并通过功耗感知调度精细分配计算卡功耗。线上推理速度提升近 3 倍,使用成本降低 70%。
开源地址:
-
魔搭社区:
-
技术博客:
-
API 调用:
01
Agent、编程与 Computer Use 能力表现
MiniMax M3.1 Flash 的能力提升集中在复杂 Agent 任务、软件工程、Computer Use 和网络安全四类场景,重点从“理解任务”推进到“调用工具、连续操作并完成交付”。
完整评测结果如下:
复杂任务与自动化
MiniMax M3.1 Flash 在 AutomationBench 和 BankerToolBench 中表现突出。前者由跨 SaaS 系统的真实企业任务组成,覆盖销售、营销、运营、客服、财务和人力资源等工作流;后者重点考察多步骤规划、跨文档与跨文件一致性、金融合规以及工具链式调用。
编程与软件工程
DeepSWE 要求模型独立完成代码理解、功能开发、问题修复和测试验证,重点考察贯穿完整开发流程的长链路执行能力。MiniMax M3.1 Flash 在 DeepSWE v1.1 中达到顶尖模型水平,在自然语言到代码仓库操作和代码重构任务中也取得了稳定表现。
Computer Use
OSWorld 2.0 衡量跨应用电脑操作能力,Agents’ Last Exam(ALE)则聚焦真实且具有经济价值的专业任务。按照 MiniMax 公布的对比结果,MiniMax M3.1 Flash 在两项评测中均位列国产模型第一,体现了真实环境交互、工具使用和连续任务执行能力。
网络安全
MiniMax M3.1 Flash 在 CyberGym 中表现突出,覆盖漏洞发现与验证任务。据 MiniMax 内部安全专家评测,MiniMax M3.1 Flash 还可用于代码审计、漏洞修补、渗透测试、恶意代码分析和逆向工程;这部分场景表现来自内部评测,与公开基准结果分开看待。
在推理效率方面,MiniMax 通过更激进的稀疏化策略提升了 MiniMax M3.1 Flash 的输出速度。官方 Blog 未进一步披露具体注意力结构;日常使用场景下,输出速度可达 200+ TPS,中位数(P50)稳定达到 170+ TPS。
02
Agent 任务的性能与成本
在 Automation-Bench、DeepSWE 和 Agents’ Last Exam 三项评测中,MiniMax M3.1 Flash 都处在较靠前的性能—成本区间:以较低的任务开销,获得接近高分模型的任务表现。 这里比较的是完成整项任务的实际开销。
在 Automation-Bench 中,MiniMax M3.1 Flash 从 low 到 max 的不同推理配置形成了连续的性能—成本曲线;随着推理强度提高,任务得分持续提升,单任务成本仍保持在较低区间:
在 DeepSWE v1.1 中,MiniMax M3.1 Flash 的不同配置覆盖从低成本到高性能的多个档位。最高配置进入高分模型区间,同时维持较低的单任务开销:
在 DeepSWE v1.1 中,MiniMax M3.1 Flash 的不同配置覆盖从低成本到高性能的多个档位。最高配置进入高分模型区间,同时维持较低的单任务开销:
03
本地部署与推理
MiniMax M3.1 Flash 支持通过 SGLang、vLLM 部署推理服务,需要 Linux 多 GPU 服务器。以下采用官方单节点 4 张 B300 的部署配置,通过 Docker 启动,需提前安装 NVIDIA Container Toolkit。
模型下载
pip install modelscope
modelscope download --model MiniMax/MiniMax-M3.1-Flash \
--local_dir MiniMax/MiniMax-M3.1-Flash
SGLang 部署
在执行模型下载命令的目录中,启动官方镜像并挂载模型:
docker pull lmsysorg/sglang:dev-minimax-m31-flash
docker run -it --gpus all --ipc=host --network=host \
--volume "$PWD/MiniMax:/models:ro" \
--entrypoint /bin/bash \
lmsysorg/sglang:dev-minimax-m31-flash
在容器内启动服务:
FMHA_SM100_ALLOW_JIT=1 \
sglang serve \
--trust-remote-code \
--model-path /models/MiniMax-M3.1-Flash \
--served-model-name minimax-m31-flash \
--reasoning-parser minimax-m3 \
--tool-call-parser minimax-m3 \
--tp 4 \
--moe-runner-backend flashinfer_trtllm_routed \
--speculative-algorithm DSPARK \
--speculative-use-block-verification \
--cuda-graph-backend-prefill breakable \
--chunked-prefill-size 32768 \
--max-running-requests 128 \
--cuda-graph-max-bs-decode 128 \
--mem-fraction-static 0.8 \
--tokenizer-worker-num 8 \
--host 0.0.0.0 --port 30000
vLLM 部署
在执行模型下载命令的目录中,启动官方镜像并挂载模型:
docker pull vllm/vllm-openai:minimax-m31-flash
docker run -it --gpus all --ipc=host --network=host \
--volume "$PWD/MiniMax:/models:ro" \
--entrypoint /bin/bash \
vllm/vllm-openai:minimax-m31-flash
在容器内启动服务:
VLLM_FLOAT32_MATMUL_PRECISION=high \
vllm serve /models/MiniMax-M3.1-Flash \
--served-model-name minimax-m31-flash \
--tensor-parallel-size 4 \
--reasoning-parser minimax_m3 \
--enable-auto-tool-choice \
--tool-call-parser minimax_m3 \
--block-size 128 \
--kv-cache-dtype nvfp4 \
--attention-config \
'{"indexer_kv_dtype":"nvfp4","use_prefill_query_quantization":true}' \
--compilation-config \
'{"cudagraph_mode":"FULL_AND_PIECEWISE"}' \
--speculative-config \
'{"method":"dspark","num_speculative_tokens":3,"attention_backend":"FLASH_ATTN","kv_cache_dtype":"fp8","draft_sample_method":"probabilistic","rejection_sample_method":"block"}' \
--max-num-seqs 256 \
--disable-hybrid-kv-cache-manager \
--host 0.0.0.0 --port 8000
调用本地服务
通过 OpenAI 兼容接口调用。以下调用 vLLM,使用 SGLang 时将端口改为 30000:
curl -N http://127.0.0.1:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "minimax-m31-flash",
"messages": [
{"role": "user", "content": "请介绍一下稀疏注意力的工作原理。"}
],
"temperature": 1.0,
"top_p": 0.95,
"max_tokens": 4096,
"stream": true
}'
点击阅读原文,即可跳转链接~
👇点击关注ModelScope公众号获取
更多技术信息~