活水模型
返回文档
命令行 CLI

serve 与三协议

单端口单常驻,按标准协议端出模型——OpenAI / Anthropic / Responses 三协议兼容。

42model serve 把本地引擎作为一个常驻服务端出,单端口单常驻,默认端口 11520。核心心智:把「按标准协议端出模型」做扎实,谁来用、用哪个,靠组合。

启动与管理

42model serve            # 启动常驻服务
42model serve status     # 查看状态
42model serve load <model>   # 预载指定模型
42model serve sleep      # 手动休眠
42model serve restart    # 重启
42model serve stop       # 停止

三协议兼容

serve 同时暴露三套兼容端点,第三方客户端可直接接入:

  • OpenAI/v1/chat/completions
  • Anthropic/v1/messages
  • Responses/v1/responses

默认服务地址为 http://localhost:11520。这让活水模型可以直接当各类 Agent 与工具的本地后端。

下一步