Hoshimi

概览

概览页:今天的用量、可复制的接口地址、已启用的渠道,以及版本、更新和默认模型。

概览 是打开界面时的第一页,一眼看清网关现在的状态。页面从上到下分为 今日、接口、渠道 和 服务器 四部分;想看更多细节时,各部分都有按钮跳到对应的页面。

今日

数字含义
token今天所有调用的输入 + 输出 Token
调用次数今天经过网关的请求数
缓存命中输入 Token 中从上游缓存读取的比例
正在进行此刻正在进行的调用数

“今天”按服务器的本地时间计算。右侧的小折线是最近 24 小时每小时的 Token 量。标题旁的圆点是实时连接的状态(实时、正在重连…、离线):处于 实时 时,调用一结束这些数字就会更新。点 用量 打开用量页查看图表和每次调用。

接口

这一部分列出客户端要用的地址,副标题是 Base URL,即你打开界面所用的地址(默认 http://127.0.0.1:10600)。每一行右侧的按钮复制完整的 URL:

路径说明
/v1/chat/completionsChat Completions(OpenAI)
/v1/responsesResponses(OpenAI)
/v1/messagesAnthropic Messages
/v1/messages/count_tokensToken 数量估算(Anthropic)
/v1/models模型列表

大多数 SDK 把 http://127.0.0.1:10600/v1 作为 base URL。例如:

curl http://127.0.0.1:10600/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "<模型 id>", "messages": [{"role": "user", "content": "你好"}]}'

如果在 设置 › 访问 中设置了 模型 API 密钥,请求还要带上 Authorization: Bearer <模型 API 密钥>(或 x-api-key)。模型 id 可以在模型页复制。各种客户端的接法见接入客户端。

列表下方的一行说明工具访问密钥的状态:管理此服务需要工具访问密钥。 或 尚未设置工具访问密钥。。没有设置工具访问密钥时,标题旁还有 API 文档 按钮,在新标签页中打开服务器自带的接口文档(/docs)。设置了密钥后这个按钮不显示,因为该页面无法携带浏览器中保存的密钥;此时可以用请求头访问 /docs 和 /openapi.json,见 API 参考。

渠道

这里列出已设置或已启用的渠道(只是可用但还没设置的站点留在渠道页)。每张卡片显示:

  • 渠道名称和状态:就绪、需要处理、已关闭。
  • 账号数量,或者 无需账户(匿名渠道,如 OpenCode Zen 和 Kilo)。
  • 目录中来自该渠道的模型数(目录加载完成后显示)。
  • 今天用过时,显示今天的 Token 量。

点卡片直接打开该渠道的详情,点 管理渠道 打开渠道列表。模型目录正在加载或有提供商加载失败时,卡片上方会显示加载进度、失败的提供商及原因,以及 重试 按钮。

一个渠道都没有时显示 没有启用任何提供商。这时到 渠道 页登录一个免费站点或添加 API 密钥即可;不需要编辑文件,也不需要重启。

服务器

项目说明
版本正在运行的 Hoshimi 版本
最新版本PyPI 上最新的正式版本,旁边标明 有可用更新 或 已是最新;还没查到时显示 正在检查…,从未查成功时显示 无法检查
默认模型请求没有指定模型时使用的模型;没有设置时显示 未设置。在 设置 › 常规 中修改

服务器启动后在后台向 PyPI 查询一次,之后每天再查一次,只读取版本号,不会下载或安装任何东西。查询使用全局网络设置。不想让 Hoshimi 发出这个请求时,把 server.check_updates 设为 false,最新版本 一行随之隐藏:

hoshimi config set server.check_updates false

用命令行修改配置后需要重启服务器。升级方法见安装:

python -m pip install -U hoshimi

本页目录