854 B
854 B
proxy 模块
职责
- 提供 OpenAI 兼容 API 代理
- 根据权重选择渠道并支持故障回退
- 记录用量日志并回写额度
接口定义
/v1/*OpenAI 兼容代理路径
行为规范
- 基于令牌鉴权
- 按渠道权重随机排序
- 调用令牌按顺序选择,未配置时回退
channels.api_key - done-hub 仅使用
base_url,不再按多地址切换 - 支持从非流式 JSON、响应头与流式 SSE 解析 usage 字段
- 流式请求自动补
stream_options.include_usage=true以便上游返回 usage - 对
/v1/responses且上游返回 400/404 时回退为/responses重试一次 - 可配置失败重试轮询(响应 5xx/429 时触发)
- 记录流式请求标记、首 token 延迟与推理强度到 usage_logs
依赖关系
channels/tokens/usage_logs表tokenAuth中间件