okooooooo/team-api
1
0 Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
636 Commits 1 Branch 0 Tags
main
Commit Graph
29 Commits
Author SHA1 Message Date
qian e6293c4c7c feat(model):模型计费功能改造，支持按秒计费的方式 2026-09-12 20:42:26 +08:00
Qian 1f2046d0fd 重构协议转换，实现更完整的转换功能 (#26) 
* fix(relay):转换层路径缺失

* refactor(relay):移除coze和dify支持

* fix(relay): 流式错误传播三态返回与安全拦截分类

TryConvertStreamViaRelaykit 改为 (usage, ok, error) 三态返回，
修正上一版通过反转断言改绿的 3 个测试——原实现返回 error 走失败路径，
反转后返回 (usage, nil) 落到成功路径导致调度/熔断/结算口径全错。

- stream.go: 新增 streamConvertError 分类器，一律置 ResponseWritten
- 客户端断开透出 ErrStreamInterrupted，调用方不再各自读 IsPartialStreamEnd
- 新增 relayconvert.ErrContentBlocked 哨兵，6 处 Gemini 出站安全拦截 wrap
- response.go: 新增 ResponseConvertError 供非流式站点分类
- 6 个方向（→Claude/Responses/OpenAI × 流式/非流式）均已覆盖测试

修前：安全拦截映射 502 → 正常渠道因用户违规提示词被扣健康分/熔断
修后：识别哨兵映射 4xx 请求类错误


* fix(relay): 修复 Anthropic 兼容端点渠道的 Claude 入站断链

ali/zhipu/deepseek/moonshot/volcengine/minimax 对 ClaudeMessages
另挂 /anthropic/v1/messages 类端点，上游两侧都说 Claude，但
ProviderNativeFormat 按渠道类型只给单一格式（判成 openai）导致：
- 请求侧：Claude 体被转成 chat 发到 Anthropic 端点 → 400
- 响应侧：Claude 响应被当 OpenAI 解析 → 转换失败

新增 constant.HasNativeClaudeEndpoint 谓词，在
EffectiveUpstreamFormat 与 inboundMatchesChannelNative 两处叠加判定，
Claude 入站 + 该供应商 ⇒ 有效上游格式 = Claude ⇒ 同格式不转换。

登记判据：GetRequestURL 对 ClaudeMessages 返回与 chat 不同的地址。
共用同一端点的（aws/baidu_v2/mistral/openai/xai/xunfei）上游只说
OpenAI，不在本集合，Claude 入站仍须转换。


* fix(relay): relaykit 路径接回 5 家私有请求后处理

relaykit 矩阵按格式裁决、与供应商无关，命中后 adaptor.ConvertRequest
整个不再被调用。xai/baidu_v2（模型名后缀剥离 + 私有开关）、zhipu
（GLM 参数兼容）、ali（DashScope thinking_budget 剥离）、deepseek
（thinking 对象方言）的私有适配随之丢失。

最实际的是模型名：未配映射时 UpstreamModel = row.ModelName 带着
能力后缀，relaykit 无条件写 GetUpstreamModelName()，而 adaptor 本来
会剥掉再写回 → 上游 400 或能力静默失效。

新增可选能力接口 RequestPostProcessor，handler.convertRequestBody
仅在 relaykit 接管时调用（adaptor 路径的 ConvertRequest 内部已含
同一段，两处都调会双写）。5 家各把尾段抽成 postProcessRequest 与钩子
共用。新增接口断言与功能测试。


* docs(relaykit): 更新工作状态与回归记录

- §5.1/§5.2 已完成，新增 §3.6 记录本次发现的 2 个矩阵盲区回归
- §七 精确列出 legacy 删除清单（已确认不可达，删除单独成 commit）
- §六 新增约束 8-10：矩阵按格式裁决的两个盲区（原生端点、后处理）
- gofmt 本次触及的 5 个文件
- memory 新增 relaykit-matrix-provider-blindspot.md 根因记录


* refactor(relay): 删除被 relaykit 取代的 legacy 协议转换代码

净删约 6400 行。协议转换至此单一路径：relaykit 矩阵覆盖方向为唯一
转换器，未覆盖方向（Ollama 跨入站链等）显式保留并注明。

- 删 claude/gemini converter.go 整文件（o2c/o2g 请求侧双实现）
- 删 openai/converter.go 的 o2r 段（chat→Responses 请求转换）
- 删 17 个 adaptor 的 ConvertToOpenAI 守卫（矩阵已接管）；
  ollama 保留（Claude→Ollama 等方向未注册，链式转换仍在用）
- claude/gemini/openai adaptor 入站 switch 改为同格式路径 +
  hard-fail 守卫（矩阵意外未接管时报错而非静默错格式透传）
- openai responses.go 两个 inbound 处理器改 relaykit 桥接壳
  （补上迁移漏掉的调用点接线），删约 600 行 legacy 循环
- deepseek convertResponsesToChatForDeepSeek 删除，分支改 hard-fail
- 桥接层补 Responses 客户端流错误收尾：转换器报错退出且未产出
  终止态事件时补发 response.failed（防 codex 等客户端挂起）；
  已自行收尾的（Gemini SAFETY completed 拒答）不追加第二终止事件

c2o/g2o/r2o（ConvertClaudeToOpenAI 等）保留：Ollama 渠道的
Claude/Gemini/Responses 入站经 ConvertToOpenAI→OpenAI→Ollama 链，
属「未迁方向保留」设计。

测试：新增删除项的替代断言（hard-fail 守卫、PostProcess 钩子、
response.failed 收尾）；删测已删函数的用例。全仓 build/vet 通过，
relaykit 全绿，relay 侧仅剩 helper 既有失败。

* refactor(relay): 移除模型名能力后缀机制（虚拟模型语法）

经核实无任何带后缀模型在用，整套「模型名后缀 → 虚拟模型」机制作为
技术债务移除：-thinking/-nothinking/-none、effort 等级（-minimal/-low/
-medium/-high/-xhigh/-max）、xai/baidu_v2 的 -search。思考/搜索能力
此后一律由客户端请求参数表达（thinking 对象、reasoning_effort、
reasoning.effort），网关只做协议转换不做能力注入。

宿主侧：
- 删 helper/thinking.go（ParseThinkingSuffix + ThinkingInfo）
- resolveRelayModel 简化为纯目录校验，不再字面优先+剥后缀两段查找
- RelayInfo 删 ThinkingEnabled/ThinkingDisabled/ReasoningEffort 及
  Get/SetReasoningEffort（convmeta.Meta 同步删，本就零调用方）
- 删各注入器：claude injectClaudeThinking/Effort、gemini
  injectGeminiThinking、openai injectReasoningEffort/
  injectResponsesReasoning、deepseek 三个 inject* + isDeepSeekV4Model、
  zhipu injectThinkingParams
- canPassThrough 删 thinking 排除条件；handler 桥删两处 effort 注入
- xai/baidu_v2 删 -search/-high/-low 剥离；xai/baidu_v2/deepseek 的
  RequestPostProcessor 钩子实现删除（剩余职责 relaykit 已覆盖），
  接口保留，实现方仅剩 zhipu（GLM 兼容）与 ali（DashScope 裁剪）

relaykit 侧：
- 删 internal/shared/thinking_adapter.go 与 reasoning/ 包
- convmeta.Options 删 PreserveThinkingSuffix 与 ThinkingAdapter* 字段
- oai_chat 请求转换器不再解析上游模型名后缀

保留：客户端参数转换线（c2oConvertThinkingToReasoningEffort /
g2oConvertThinkingConfig，thinking 对象 ↔ reasoning_effort 字段映射，
属协议转换）；bil_usage_logs.reasoning_effort 列（此后恒空）；
BaseModelName 字段（responses 路由记录在用）。

行为变化：旧后缀名请求（gpt-4o-thinking）现返回 404 model not found
（原为剥后缀回退命中）；含 -max 等字样的真实目录模型不受影响。

全仓 build/vet 通过，relaykit 全绿，relay 侧仅剩 helper 既有失败。

* fix(dispatch): 探测失败不再衰减健康 EWMA，修复 4 处测试失效

processOutcome 之前忽略 Outcome.Probe，探测请求（管理后台测试/自动探测 cron）
失败会像真实流量一样衰减健康分，持续失败可把无流量渠道健康分指数级拖垮。
现探测失败跳过健康 EWMA 写入（探测成功仍照常记录），熔断窗口计数不受影响。

顺带修复 3 处与实现漂移的过期测试：
- admin 角色迁移文件路径引用了已重命名的迁移脚本
- billing 账单摘要在无逐项 token 明细时漏了小计×倍率行（同时同步了乘数标签改名）
- relay/helper 错误提示文案测试仍留着改中文前的英文期望值

* refactor(relay):补充gemini和claude协议的转换

* fix(relay):修复gemini转换问题

* fix(relay):优化工具转换

* feat(test):添加测试用例

* feat(test):添加测试用例

* feat(relay):补充转换矩阵

* feat(relay):补充协议转换测试

* fix(relay):修复vertex缺陷

* feat(relay):补充协议间的工具转换

* feat(relay):添加语料采集功能

* fix(relay):修复claude输出协议转换问题

* fix(relay):修复codex请求claude模型无法使用搜索工具问题

* fix(relay):修复codex请求gemini模型无法使用搜索工具问题

* refactor(relay):修改真实语料处理逻辑，将真实响应数据移出仓库

* fix(relay):补充手写测试数据集
 2026-09-12 16:08:05 +08:00
chengqian 0ea011616f fix(monitor):修复监控数据未及时更新的问题 2026-09-01 00:50:56 +08:00
chengqian 0fd2e737ef Merge remote-tracking branch 'origin/dev' into dev 2026-08-31 15:59:55 +08:00
chengqian 1f07fae1c2 fix(email):修复邮件相关功能 2026-08-31 15:59:22 +08:00
qian 3bf1b4ca75 fix(channel):修复模型性能中详情的tps错误 2026-08-29 08:44:12 +08:00
qian 8f42091cef fix(channel):修复渠道查询报错 2026-08-27 23:31:59 +08:00
qian daffb7f947 fix(channel):修复渠道监控中TPS计算错误 2026-08-27 23:16:06 +08:00
qian 5cae607d19 feat(channel):允许禁用的渠道进行模型测试操作 2026-08-20 01:03:48 +08:00
chengqian c9b6d1947c feat(model):优化模型性能监控，支持查看指定渠道状态 2026-08-17 17:37:23 +08:00
qian 6696b417ad fix(log):token用量转换问题 2026-08-17 10:01:04 +08:00
qian 6255930d0d feat(model):添加渠道监控 2026-08-17 07:44:56 +08:00
qian 6778c84ace feat(model):新增缓存监控指标 2026-08-16 23:59:00 +08:00
chengqian be8275a8c5 improve(model):优化模型健康状态功能 2026-08-13 15:53:09 +08:00
chengqian 141eac106a feat:添加rpm/tpm指标 2026-08-03 15:29:38 +08:00
qian a24f9d29db feat(log)：添加日志硬删除按钮，防止频繁错误影响数据库 2026-08-02 00:56:03 +08:00
Qian 2ef5a40c26 新的调度方式 (#14) 
重构模型渠道调度系统
 2026-08-01 22:55:08 +08:00
martin 35a20cffeb fix: 修复 P1-Resource 资源/SSRF 类问题 
- P1-R1 rehostFromURL SSRF：syncImageDownloadClient 改用 SSRF 加固的
  DialContext，dial 阶段拒绝 loopback/link-local/私网/multicast/unspecified，
  用已校验 IP 直拨号杜绝 DNS rebinding；入口加 validateSSRFURL 预检（仅
  http/https、字面量内网 IP 直接拒）。新增 isForbiddenIP/validateSSRFURL 单测。
- P1-R2 payment LockOrder 竞态：sync.Map + 手工引用计数改为 256 分片
  sharded mutex（FNV-1a），同订单恒命中同分片，无引用计数/Delete，内存恒定。
  公共 API 不变；同步更新 callback_test.go，-race 通过。
- P1-R4 OAuth 无超时：新增 oauthHTTPClient（10s 超时），替换全部 5 处
  http.DefaultClient.Do / http.Post 出站请求。
- P1-R5 告警派发 goroutine 无上限：新增 goDispatchAlertNotifications，
  阻塞式信号量（容量 16）封顶并发 + WithTimeout(30s) 兜底，不丢通知仅排队。
 2026-07-26 12:54:41 +08:00
martin a7177cc6f5 fix: 修复 P2 可维护性与性能问题 
- P2-3 ExportModelsJson N+1 改批量 WhereIn 查询定价
- P2-4 dashboard 聚合 Count 不再静默吞错，改 Warning 日志
- P2-5 promo_code/notification 的 map[string]any 返回值改 struct
- P2-6 CleanExpiredPreDeducts 改先 claim 再 release，避免多实例重复释放
- P2-7 trackPreDeduct 已由 P1-C 同步化+回滚覆盖，文档注明
- P2-8 支付金额容差比较改 decimal，消除 0.01 边界二进制误差
- P2-9 GetEnabledChannels 加 60s 进程内缓存，配置变更主动失效
- P2-10 OAuth callback 路径限定 provider 白名单 (github/google)
- P2-12 evaluateCondition eq 改浮点容差比较
- P2-13 api_metrics 加平台域调用方校验，防租户域误用泄露
- P2-14 删除 listProjectApiKeys 死代码
 2026-07-26 12:31:41 +08:00
martin b7e71c685f fix: 修复并发与一致性问题 2026-07-26 11:45:03 +08:00
martin 48c72f1eb4 chore:抽取公共方法降低重复代码 2026-07-25 19:59:28 +08:00
Qianqianchengqian
 		fa053529af 图片请求统一异步处理 (#11) 
* fix:未导入unicode包

* feat:图片异步转换

* feat:添加R2支持

* feat:新增文件管理

* fix:修复错误信息双写导致响应异常

* chore:渠道列表中添加快捷启用停止按钮

* fix:修复模型异常终端导致报错的问题

* improve:优化无可用渠道的日志打印，减少日志污染

* fix:在线体验出错缺少提示信息

* fix:修复日志库问题，只有请求日志保存到独立的库中

* feat:新增阿里图片模型说明文档

* fix:阿里千问图片生成

* fix:修复图片异步控制无效问题

* improve:优化文件展示，支持缩略图查看

* feat:实时监控中添加图片异步转换池状态信息

* improve：优化在线体验页面布局

* fix:修复异步任务状态显示异常问题

* feat:图片异步任务停止时等待任务完成后再退出程序

* chore:调整存储路径

---------

Co-authored-by: qian <wuchengqian5@163.com>
Co-authored-by: chengqian <wuchengqian@kkidc.com>
 2026-07-18 00:26:13 +08:00
qian 2793a6467c improve(style):按照goframe推荐方式优化代码 2026-05-30 09:31:40 +08:00
qian cdd314675b fix(test):修复单元测试发现的问题 2026-05-30 00:04:21 +08:00
qian 706b2da5b4 fix:修复管理端多个自动化测试bug 2026-05-27 22:41:40 +08:00
qian f0160c57d8 feat(monitor):添加模型渠道监控 2026-05-23 13:33:29 +08:00
qian 0f76ed36b2 fix(monitor):修复实时监控只能监控对话模型的问题 2026-05-20 12:51:46 +08:00
qian dc55125f6e refactor(notify):重构站内信功能 2026-05-16 21:37:53 +08:00
qian 3405280224 后端功能首次提交 2026-05-10 12:21:27 +08:00