它替你解决了四个麻烦
这些事本来都得你自己做：挨个注册、挨个比价、写重试逻辑、盯着谁挂了。
模型太多，挑不过来
只写 auto，网关自己判断这是写代码、读长文还是闲聊，再综合质量与算力消耗选一个最合适的。
单点故障，忽然罢工
限流、断供、Key 过期都会自动换 Key、再换模型。整条链路对你完全透明，正文照常返回。
纯文本模型干不了多模态
网关内置工具，任何模型都能生图、生视频、看图、识别文字、听音频 —— 模型自己会调，产物链接直接写进回答。
复杂问题一个模型答不好
一次请求可以交给一群模型：分工协作、多模型投票、交叉校验，换更高的准确率。
换个模型就要改代码
接口是标准 OpenAI 格式，任何支持「自定义接口」的客户端都能接，换模型只改一个字符串。
算力值花哪了不知道
每次调用都能查到用了哪个模型、消耗多少 Token、花了多少算力值、省了多少。
三步接进去
不用装 SDK、不用注册、不用改架构。任何能配「自定义 OpenAI 接口」的软件都能接。
抄下两个值
接口地址和访问密码由管理员提供。填到你工具的「自定义接口」里即可。
填进你的工具
Cherry Studio、ChatBox、LobeChat、NextChat、Continue、Cline、沉浸式翻译， 或者你自己的脚本 —— 全都一样。
开始用
像平时聊天一样提问就行。想知道这次实际用了哪个模型，看响应头 X-AIGW-Model。
curl …/chat/completions \
-H "Authorization: Bearer $AIGW_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role":"user","content":"帮我写一个快速排序"}]
}'
from openai import OpenAI
client = OpenAI(
base_url="…",
api_key="$AIGW_KEY",
)
r = client.chat.completions.create(
model="auto", # 就这一行
messages=[{"role": "user", "content": "帮我写一个快速排序"}],
)
print(r.choices[0].message.content)
# 生图 / 生视频是独立接口，跟 auto 模型无关： # 生图 → POST /v1/images/generations （yeyu-image） # 生视频 → POST /v1/videos/generations （yeyu-video） # 在聊天里顺手触发也可以——像聊天一样提要求： "帮我生成一张图：一只橘猫坐在秋天的银杏树下，国风插画风格" # 网关会把这条请求转给生图接口，把图片链接写回回答里。 # 响应头 X-AIGW-Tools: generate_image 可以确认真的调了生图接口。
一个请求，一群模型接力
把模型名换掉，就能让多个模型协同干一件事。客户端代码一行都不用改。
| 模型名填 | 它会做什么 |
|---|---|
auto |
一次请求打一个模型。快、省，适合日常绝大多数场景。 |
auto:cheap | 优先挑便宜甚至免费的模型。 |
auto:quality | 优先挑能力最强的模型，不在意成本。 |
auto:fast | 优先挑响应快的模型。 |
auto:team |
分工协作。先规划把任务拆成可并行的子任务 → 多个模型同时开工 → 汇总成一份完整成品。 |
auto:vote |
多模型投票。同一个问题并发问几个不同模型，再由裁判择优合并，减少单模型跑偏。 |
auto:verify |
交叉校验。一个模型作答，另一个模型逐条核查并给出修订稿。适合要严谨结论的场景。 |
常见问题
需要自己准备 API Key 吗？
不需要。所有模型的调用凭证都由网关统一维护，你只需要拿管理员给你的那一个访问密码。
回答是谁生成的？
由网关当时挑中的模型生成。每次响应的 X-AIGW-Model 头会写明实际服务的模型。
为什么有时候换了个模型？
说明原先那个模型被限流或报错了，网关自动做了故障转移。这是正常容错，不是异常。
提示 max_tokens 相关的问题？
这里的模型多为「思考型」，会先产出一段思考过程并计入 Token。如果 max_tokens 给太小，
Token 会被思考过程用完，正文会是空的。建议不要限制，或至少给 2048。
支持流式输出吗？
支持。请求体加 "stream": true 即可，返回标准 SSE 事件流。
我的对话会被记录吗？
网关会记录调用的元信息（用了哪个模型、多少 Token、耗时），用于计费和排查问题。
接入信息
把这些填进你的工具，就可以开始用了。
| 接口地址 | — |
|---|---|
| API Key | 由管理员提供（就是后台的访问密码） |
| 模型名 | auto，也可填上方列表里的任意模型名 |
| 协议 | 标准 OpenAI 兼容：/v1/chat/completions、
/v1/embeddings、/v1/models |
