端侧模型清单:选多大的合适
端侧不是只有一个模型。应用内置的模型目录目前提供五档选择,从 600 MB 到近 7 GB,覆盖从老旧设备到旗舰机的空间预算。以下数据来自官方文档(2026 年 10 月核验),以应用内目录实时显示为准。
模型对照表
| 模型 | 体积 | 安卓显存占用 | 上下文 | 工具调用 |
|---|---|---|---|---|
| Gemma 4 E2B IT | 2.59 GB | 676 MB | 默认 4K / 最大 32K | 可靠 |
| Gemma 4 E4B IT | 3.66 GB | 710 MB | 默认 4K / 最大 32K | 可靠 |
| Gemma 4 12B IT | 6.88 GB | 4000 MB | 默认 8K / 最大 32K | 可靠 |
| LFM2.5 1.2B Instruct | 736 MB | 300 MB | 固定 4K | 有(自带工具模板) |
| Qwen3 0.6B | 614 MB | 300 MB | 默认 4K / 最大 32K | 实际不可用 |
怎么选
- 有 4 GB 以上空闲存储、想要质量:Gemma 4 E4B 是甜点位
- 老旧或小存储设备:LFM2.5 1.2B——体积最小档里唯一带真工具调用的,需要工具就选它
- 旗舰大内存:Gemma 4 12B 质量上限最高,但 4 GB 显存占用对手机很苛刻
- 只想纯聊天不求工具:Qwen3 0.6B 体积最小;官方明说它实际上发不出合法的工具调用格式,当聊天模型用
管理入口
设置里的 LiteRT 服务卡片就是模型管理台:
- 下载:显示体积,开始前校验剩余空间;安卓上走前台服务,退到后台也不断
- 导入:可以导入设备上已有的同格式模型文件(流式复制进应用私有存储);与目录模型同名的会占其位置并标记为「用户自供」,跳过完整性校验
- 选择:单选钮切换当前模型,导入成功自动选中
- 删除:垃圾桶图标随时删;删掉最后一个 LiteRT 服务实例时,所有本地模型自动清空
- 上下文滑杆:从默认值到最大值以 1K 步进调整(下载前就能调,方便预估性能);固定上下文的模型只显示标签不给滑杆
- 性能指示:按设备总内存与估算占用给出「好 / 一般 / 差」三档标示(好 ≈ 剩余是占用的 2.5 倍以上)
调参细节
采样参数(温度、top-k、top-p)默认读模型文件自带的声明,各模型各有一套;文件没声明的才落到应用的固定默认值。绝大多数情况不用动。
下载完回到聊天,把 LiteRT 服务拖到回退链第一位即可「主力本地、云端兜底」——顺序逻辑见回退链。