给 Ollama 装一盏“忙闲灯”:从状态查询到靠谱的共享推理服务
Ollama Status Service 开发手记 · 记录至 1.2.3(Github) 这件事的起点很小:几台电脑想共享 Ollama 的空闲算力,我需要知道某台机器现在能不能接下一个任务。最好扫一眼就明白,不必翻日志,也不用先发一句“在吗”。 听起来,加个状态接口、画个绿灯,应该就差不多了。结果做着做着,排队、断线、托盘、安装器、模型路径、升级恢复,还有 FRP,全都来敲门。最有戏剧性的一
- AI Writing
- lucyqin
- 7小时前
- 3 热度
- 0评论
