avatar

FuSheng's Blog

← 返回首页

如何部署 Xiaomi MiMo:从 API 到本地私有化

Xiaomi MiMo

小米的 MiMo 是目前热度很高的开源大模型系列,部署主要分两条路:官方 API(零门槛,按量付费或订阅 Token Plan)和本地私有化部署(开源权重、MIT 协议,数据不出本地)。这篇文章把两条路都讲清楚,任选其一即可跑起来。

方式一:官方 API(最快,无需显卡)

适合想快速接入、不想折腾硬件的场景。MiMo 开放平台兼容 OpenAI 和 Anthropic 的 API 格式,直接用现成 SDK 就能调。

1. 用小米账号登录小米 MiMo 开放平台(platform.xiaomimimo.com),没有账号可先在 id.mi.com 注册

2. 进入「API Keys」→ 创建一个 API Key(格式 sk-xxxxx,只显示一次,务必保存好)

3. 按量付费直接充值少量余额即可;重度使用可以订阅 Token Plan,会得到专属的 tp-xxxxx Key 和 Base URL

模型选择(2026 年最新)

官方已于 2026 年 6 月 30 日下架 V2 全系模型,现在统一使用 V2.5 系列:

  • mimo-v2.5-pro:旗舰推理模型,上下文 1M、最大输出 128K,支持深度思考 / 函数调用 / 联网搜索,复杂推理首选
  • mimo-v2.5:全模态理解(图片 / 音频 / 视频)+ 文本生成,同样支持深度思考,上下文 1M
  • mimo-v2.5-asr:语音转文字,支持中英文
  • mimo-v2.5-tts:文字转语音,另有 voiceclone(音色克隆)和 voicedesign(音色定制)

调用代码(兼容 OpenAI SDK)

因为 MiMo API 完全兼容 OpenAI 格式,直接用官方 OpenAI SDK 即可:

from openai import OpenAI

client = OpenAI(
    api_key="sk-你的密钥",      # 换成你的 API Key
    base_url="https://api.xiaomimimo.com/v1"
)

resp = client.chat.completions.create(
    model="mimo-v2.5-pro",
    messages=[
        {"role": "system", "content": "你是MiMo,是小米公司研发的AI智能助手。"},
        {"role": "user", "content": "用一句话介绍 MiMo"}
    ]
)
print(resp.choices[0].message.content)

深度思考默认开启,返回时会先通过 reasoning_content 输出思考过程,再输出最终答案;如果不想思考,可以在 extra_body 里传 thinking.type = "disabled"

小技巧:把 API Key 放到环境变量 MIMO_API_KEY 里,避免硬编码在代码中。Token Plan 用户记得把 base_url 换成订阅后给的专属地址。

方式二:本地部署(开源权重,数据不出本地)

MiMo-V2.5 / MiMo-V2.5-Pro 已全球开源,可以直接下载权重本地跑。对小模型来说,一张 RTX 3090 / 4090 就完全够用。

小模型推荐:MiMo-7B-RL(Ollama 一行搞定)

MiMo-7B-RL 是 7B 参数的推理模型,数学和代码能力强,量化后家用显卡就能跑。装好 Ollama 后一行命令即可:

ollama run alibayram/mimo-7b-rl

也可以用 GGUF 量化版搭配 LM Studio / llama.cpp 加载。硬件参考:FP16 全精度约需 14-16G 显存,INT4 量化后 4-6G 就能跑。

生产级服务:vLLM(OpenAI 兼容 API)

pip install vllm
vllm serve "XiaomiMiMo/MiMo-7B-RL"

启动后就是 OpenAI 兼容接口,base_url 填 http://localhost:8000/v1 即可。旗舰 MiMo-V2.5-Pro 是 1T 参数的 MoE 模型(激活 42B),支持 1M 上下文,需要多卡大显存环境,用 vLLM 时记得加 --trust-remote-code。

小结:怎么选

  • 想省事、要联网搜索 / 全模态:直接用官方 API,选 mimo-v2.5-pro 或 mimo-v2.5
  • 数据敏感、想完全私有化:本地部署,家用显卡选 MiMo-7B-RL 量化版
  • 生产环境要稳定 API:vLLM 起服务,兼容 OpenAI 生态
💬 0 条评论
暂无评论,快来发表第一条评论吧!
永雏塔菲