 mt21625457
|
d11bdb13f5
|
feat(security-audit): add OpenAI-compatible prompt auditing
|
2026-07-17 00:39:39 +08:00 |
|
|
shaw
|
0408bdb34f
|
Merge remote-tracking branch 'origin/main' into feat/upstream-rate-scheduling
# Conflicts:
# backend/internal/handler/openai_gateway_handler.go
|
2026-07-16 10:31:21 +08:00 |
|
|
Tian Lee
|
90ee85f3ef
|
feat: 按上游计费倍率调度 OpenAI 账号
|
2026-07-16 00:40:46 +08:00 |
|
|
王鹏
|
40b8f04a6a
|
fix(openai): scope transient cooldowns by model
|
2026-07-15 22:52:35 +08:00 |
|
|
shaw
|
a0593b0bf8
|
fix(gateway): 客户端断开后 failover 静默终止，不再误报 502 账号耗尽
上游请求经 detachUpstreamContext(WithoutCancel) 有意脱离客户端取消（保
计费），但 failover 循环仍用原始 c.Request.Context() 重新选号：客户端
断开后上游返回 520 等可 failover 错误时，重新选号必然得到 context
canceled，被误判为账号耗尽，记录并返回通用 502。
修复：客户端已断开 ⇒ failover 静默终止。
- 新增 failoverClientGone(c)：请求 ctx 已取消时先停 compact 心跳
（建立 happens-before，对齐其它终结路径），响应未提交则标 499
（statusClientClosedRequest，与并发槽取消路径同惯例）
- 7 个 OpenAI 内联 failover 循环（Responses/Messages/chat_completions/
embeddings/images/grok_media/alpha_search）加双 guard：换号前 +
选号失败分支入口；guard 位于 ReportOpenAIAccountScheduleResult(false)
之后、RecordOpenAIAccountSwitch/池模式重试之前，账号健康副作用
（service 层 detached ctx）不受影响
- FailoverState.HandleFailoverError/HandleSelectionExhausted 入口加
ctx.Err() 检查返回 FailoverCanceled，取消不再改动 failover 状态；
全部 10 个 FailoverCanceled 分支统一调用 failoverClientGone 归类 499
- 上游 detach 与计费设计不变；真实上游 520 事件仍完整落 ops
（面板显示码 COALESCE(upstream_status_code,status_code)=520，
错误率/告警口径不变）
测试：新增 openai_responses_failover_cancel_test.go 复现 issue 场景
（520+取消 ⇒ 不切号、499、无 502 终态）+ 在线客户端对照（正常切换、
耗尽 502）；failover_loop_test.go 补入口取消用例并修正取消语义断言。
Fixes #4257
|
2026-07-15 09:29:05 +08:00 |
|
|
li
|
40c563c4ae
|
fix(gateway): 记录请求体解析失败的真实原因，不再吞错
400 "Failed to parse request body" 此前丢弃底层错误，无法区分
JSON 真非法、还是 body 被截断/被中间件提前消费。
- 服务层 invalid json 错误增补 len/offset/非法字符信息
（仅诊断元数据，不含 body 内容，可安全 wrap）；
- handler 层新增 logRequestBodyParseFailure，向服务端日志输出
底层错误 + body 长度 + 转义后的 head/tail 片段（各 256B），
客户端响应文案保持不变；
- 接入全部 9 处入站解析点（messages/count_tokens/responses/
chat_completions/embeddings，Anthropic 与 OpenAI 网关）。
Fixes #3715
|
2026-07-07 13:53:39 +08:00 |
|
|
shaw
|
0fd2e9216d
|
fix(scheduler): 修复 OpenAI 高级调度器审计发现的正确性与性能问题
针对 #3692 合并后审计发现的问题集中修复：
- previous_response_id 剥离条件改为按 call_id 全覆盖校验，
部分可重建的工具续链不再被误剥离（不受开关门控的行为回归）
- 粘性加权回退路径补分组归属校验并清理失效绑定，杜绝跨分组账号泄漏
- 账号列表页：无 OpenAI 账号时跳过分数计算、过滤池限定 openai 平台、
负载批查合并为账号并集一次查询，消除全表扫描与 Redis N+1
- 订阅优先模式下常规池不可用时回退订阅池等待计划，
busy-but-waitable 的订阅账号不再导致请求硬失败
- TopK/权重 DB 覆盖显式受总开关门控，与兄弟子开关语义一致
- 前端未分组 OpenAI 账号回退展示基础分，不再显示 "-"
- ListAllWithFilters 等能力正式进入 AccountRepository/AdminService 接口，
移除匿名接口断言与静默降级；负载批查失败补 warn 日志
- SelectAccountWithSchedulerForCapability 增加显式 previousResponseCanMove
参数，移除 "previous_response_can_move" 魔法字符串哨兵
- 设置写入路径补"基础权重不得全为零"聚合校验；
运行时设置批量读取失败的降级路径覆盖全部键并留痕
|
2026-07-06 11:43:16 +08:00 |
|
|
mxyhi
|
82553c4dca
|
fix(openai): preserve quota platform in usage billing
|
2026-06-28 11:13:09 +08:00 |
|
|
shaw
|
fcd3bc1272
|
fix: return 404 model_not_found instead of 503 when no account supports the model
|
2026-06-26 15:38:06 +08:00 |
|
|
Wesley LiddickandGitHub
|
69e7c4db30
|
Merge pull request #2865 from wey-gu/feat/usage-request-context
fix(gateway): preserve usage request context
|
2026-05-29 16:21:59 +08:00 |
|
|
shaw
|
ed1b57c597
|
fix(openai): gate routing by endpoint capability
|
2026-05-29 08:58:10 +08:00 |
|
|
Wey Gu
|
2bd3125d0f
|
Preserve usage request context
|
2026-05-28 22:44:25 +08:00 |
|
|
Wey Gu
|
ccace69d4e
|
Add OpenAI embeddings gateway
|
2026-05-28 19:39:52 +08:00 |
|