Hermes Agent 当前支持自定义 OpenAI-compatible endpoint。推荐通过 hermes model 的交互式向导配置;旧教程中的 LLM_MODEL 已不再是当前配置来源,不应继续照搬。
开始前检查
准备以下信息:
Base URL: https://www.aifast.club/v1
API Key: 你在 AI快站创建的独立 Key
Model: /v1/models 返回的真实模型 ID
先用 curl 验证 Key 和模型列表:
export AIFAST_API_KEY="你的_API_Key"
curl https://www.aifast.club/v1/models \
-H "Authorization: Bearer $AIFAST_API_KEY"
配置步骤
运行:
hermes model
在向导中选择自定义端点,然后依次填写:
- API base URL:
https://www.aifast.club/v1 - API key:AI快站独立 Key
- Model name:真实模型 ID
- API mode:目标模型使用 Chat Completions 时选择对应模式
Hermes 会把当前模型和端点保存到 ~/.hermes/config.yaml。配置完成后,检查文件中的核心字段是否一致:
model:
default: YOUR_MODEL_ID
provider: custom
base_url: https://www.aifast.club/v1
不要把包含真实 Key 的配置文件提交到 Git 仓库。若使用命名的自定义 provider,优先通过 key_env 引用环境变量。
为什么不优先使用 OPENAI_BASE_URL
Hermes 当前仍会为 openai-api provider 读取 OPENAI_BASE_URL,但自定义端点推荐使用 hermes model 或 model.base_url。这样可以避免 provider、旧环境变量和当前模型配置互相覆盖。
最小验证
启动 Hermes 后先发送短任务:
只回复:AI快站连接成功
然后检查:
- 实际使用的 provider 是 custom。
- 模型 ID 与
/v1/models一致。 - 请求地址没有重复
/v1。 - 普通对话成功后,再测试工具调用和长任务。
常见问题
配置后仍请求旧提供商
检查 ~/.hermes/config.yaml 中的 model.provider 和 model.base_url,并清理与当前设置冲突的旧环境变量。重新启动 Hermes 后再验证。
/model custom 无法自动选择模型
自动选择依赖端点的 /models 返回。如果返回多个模型,Hermes 无法判断你想用哪一个,应明确填写真实模型 ID。
文本生成成功,但 Agent 工具失败
自定义端点必须正确处理工具调用所需的请求与响应字段。先用普通对话确认链路,再单独测试工具调用;不要把全部失败归因于模型能力。
下一步
为 Hermes 单独设置 API Key、用量限制和日志保留策略。正式使用前测试工具调用、长上下文、429 退避和模型切换,并确保配置文件权限不会向其他本机用户开放。