Ollama 与 LM Studio 本地模型接入教程
电脑上已经用 Ollama 或 LM Studio 跑着开源模型?不用换工具,用「OpenAI 兼容接口」这个服务项就能把它们接进来,手机上聊、电脑上算。
接入步骤
- 电脑端确认本地服务开着:Ollama 默认端口 11434,LM Studio 在其服务器页可查
- 应用:设置 → 服务 → 添加服务 → 选「OpenAI 兼容接口」(OpenAI-Compatible API)
- 接口地址填电脑的局域网地址,带上版本段,例如指向本机默认端口的标准写法(地址默认值就是本机 11434 端口的 v1 路径)
- 这一项不强制密钥:本地服务一般不设密钥;服务端要验的话再填
- 校验通过后选模型;列表里没有的型号勾选「自定义模型」手填 ID
三个填地址的细节
- 地址要含版本段:以 v1 结尾的完整前缀才是正确格式;应用只会在其后拼接对话、模型列表等子路径
- 粘成完整端点也不怕:如果手滑粘了以对话子路径结尾的完整地址,应用会自动裁回前缀,路径不会重复拼接
- 安卓 17+ 局域网权限:指向局域网地址会触发系统「本地网络」权限申请,拒绝后状态显示「本地网络访问被拒」,授权后自动重连,见连接校验
手机本机也能跑
不想依赖电脑的话,安卓端有两条原生路:
- 端侧模型(LiteRT):应用内直接下载专门打包的模型,完全离线、无需服务进程,见端侧推理
- Linux 沙盒:应用内装的 Linux 环境里理论上也能装工具链跑推理,但性能与内存受限,见Linux 沙盒
回退链里的位置建议
本地服务的稳定性取决于你的电脑开不开机,所以建议:只把「OpenAI 兼容接口」当主力(本地推理隐私最好、零成本),但不要指望它当别人的兜底——事实上应用已经替你把这事做对了:本地模型永远不会被选为回退目标,见回退链。