科技日报 | 2026-07-13

信息截止:2026-07-13 15:11(Asia/Shanghai)
核心窗口:近 72 小时(7 月 10 日 15:11 至 7 月 13 日 15:11);技术背景窗口:近 14 天
证据规则:A = 官方原文已读取;B = 官方页面存在但本次正文抓取受限;C = 权威媒体交叉验证。搜索摘要只用于发现,不用于举证;所有性能数字均按厂商或项目自报处理,不等同于独立复现。

一句话结论

今天没有经官方确认的新旗舰模型发布;真正值得跟进的是旗舰发布后的工程化窗口:推理框架正在更换默认执行主干,Agent 安全进入静态扫描与集中观测,生产 Agent 则开始采用独立身份、短期权限、人工审批和可回滚执行。

今日六大洞察

  1. “默认路径变更”比新增模型支持更值得警惕。 vLLM 与 SGLang 同期把新 runner、投机解码和 CUDA Graph 路径推为默认,性能收益与回归风险同时上升;生产升级必须看 P95、输出一致性和回滚,不应只看平均 TPS。
  2. 模型库与推理框架开始联动发布。 Transformers 5.13.1 明确为最新 vLLM 补兼容,说明模型定义层、导出层和服务层已高度耦合。以后不能只锁模型权重,还要锁 transformers + serving engine + parser 的组合版本。
  3. Prompt 注入从红队议题进入日常 CI。 CodeQL 已能追踪不可信输入流向 system prompt;这标志着 AI 应用安全开始进入传统 SAST 流程,但工具返回、网页内容和 RAG 文档造成的间接注入仍需运行时测试。
  4. Agent 治理栈正在产品化。 开发期有 SAST,运行期有 Trace/OTel,生产期有独立身份、临时 capability、审批、沙箱和回滚。真正能进入生产的 Agent,不再只靠模型“听话”,而靠系统性限制爆炸半径。
  5. Agent 成本不只发生在 GPU 上。 Vera 把工具执行、沙箱启动、数据处理和编排列为 CPU 关键路径。评估 Agent 时应拆分模型等待、工具 CPU、沙箱启动、数据等待与 GPU idle,而不是只计算 Token 单价。
  6. 公开基准的“高分”不再足以支撑采购。 OpenAI 审计 SWE-Bench Pro 后撤回推荐,估计约 30% 的公开任务存在缺陷。内部真实任务集、人工复核一致率和争议任务比例,应与榜单分数同等重要。

核心动态

1. vLLM v0.25.0 更换生产推理主干

时间: 7 月 12 日 04:06(北京时间)
证据: A,vLLM 官方 GitHub Release

发生了什么

  • Model Runner V2 成为所有稠密模型的默认执行路径,旧 PagedAttention 实现被删除。
  • Transformers modeling backend 获 FP8 MoE、CUDA Graph 等增强;项目称其性能已达到原生 vLLM backend 水平。
  • 新增异构词表通用投机解码、统一 Streaming Parser Engine、Responses API namespace tools,以及 Rust 前端 HTTPS/mTLS。
  • 本次含 558 次提交、232 位贡献者;同时修复图像解压炸弹导致 OOM、NaN 音频导致无限循环等安全问题。
  • 项目自报:无数据并行条件下的序列并行带来 1.9%–5.0% 端到端吞吐提升;其他 GLM/DeepSeek 优化数字同样尚未独立复现。

为什么重要

这不是普通小版本,而是服务执行主干迁移。收益覆盖多模型、多硬件、投机解码和工具解析,但旧实现删除意味着“升级后再观察”不是稳妥策略;量化模型、自定义 Transformers backend、长上下文和工具调用路径都可能成为回归点。

立即可做

  • 固定模型、权重、驱动、请求集和随机设置,对 v0.24/v0.25 做 5% shadow/canary。
  • 同时记录 TTFT、ITL P50/P95、output TPS、显存、错误率、输出一致率和 tool/reasoning parser 成功率。
  • 升级前核对被移除的模型与旧 API,保留旧镜像、依赖锁文件和一键流量回切。

2. SGLang v0.5.15 把投机解码和 CUDA Graph 推入默认路径

时间: 7 月 11 日 06:58(北京时间)
证据: A,SGLang 官方 GitHub Release

发生了什么

  • Spec V2 与 Breakable CUDA Graph 默认启用;完整 prefill CUDA Graph 以实验功能落地。
  • 加入 IndexShare MTP、TopK V2、Blackwell JIT GEMM、DeepSeek-V4 长上下文优化与 Decode Context Parallelism。
  • 新增或增强 GLM-5.2、Qwen3.6 NVFP4、Hy3、Unlimited-OCR 等模型路径,并扩展 AMD、Intel XPU 与 NPU 支持。
  • 项目自报:Spec V2 端到端 TPS 提升 11%;IndexShare MTP 在长上下文下降低 draft-step 成本最多 1.9 倍。GLM-5.2 的 B300/GB300 数据属于项目配置下的单批次结果,不能外推为通用吞吐。

为什么重要

vLLM 与 SGLang 同期把新调度/图捕获路径设为默认,说明推理竞争已从“支持多少模型”转向 runner、draft model、CUDA Graph、MoE 通信和 parser 的全链路协同。默认开启也会同时改变延迟尾部、显存和输出稳定性。

立即可做

  • 在并发 1/8/32、输入 4K/32K 下对 0.5.14/0.5.15 做 A/B,并分别测试 Spec V2、Breakable CUDA Graph 开/关。
  • 记录 TTFT、P95、端到端 TPS、draft acceptance、graph break 次数、OOM/错误率和逐 Token 输出一致性。
  • 先以 1% 生产流量灰度;任何提升结论必须同时满足质量不降、尾延迟不恶化和可快速回滚。

3. Transformers 5.13 把多运行时导出变成原生主路径

时间: v5.13.0 于 7 月 4 日发布;兼容补丁 v5.13.1 于 7 月 11 日 17:15 发布
证据: A,Hugging Face 官方 GitHub Release;5.13.0 属近 14 天技术基线

发生了什么

  • 新增统一 HfExporter,用一致接口覆盖 PyTorch/Dynamo、ONNX 与 ExecuTorch。
  • 动态 shape 默认开启;生成模型自动拆分 prefill/decode,VLM 还可进一步拆分视觉、音频、projector、语言模型和 head。
  • 5.13.0 同期包含模型层、attention mask/cache、混合注意力与专家并行接口的标准化,存在破坏性变化。
  • 5.13.1 官方明确聚焦“支持最新版 vLLM”,修复自定义模型旧 layer type 映射、新 linear type 名称和 _LazyAutoMapping.register 字符串 key。

为什么重要

从 Hugging Face 到 ORT、TensorRT、OpenVINO、ExecuTorch 的导出胶水正在收敛,但模型定义层与服务引擎的耦合也更紧。依赖内部 modeling API、trust_remote_code 或自定义 layer mapping 的项目,不能把 5.13 当普通依赖升级。

立即可做

  • 选一个 causal LM、一个 VLM、一个 custom model,分别导出 ONNX/ExecuTorch。
  • 校验动态 batch/sequence、prefill/decode logits 与 eager 的误差、冷启动、P95、峰值内存和 artifact 大小。
  • vLLM 0.25 联调先固定 transformers==5.13.1;通过全套回归后再放宽版本范围。

4. CodeQL 将系统提示注入纳入静态扫描

时间: 7 月 11 日 04:40(北京时间;官方页面标注 7 月 10 日)
证据: A,GitHub 官方 Changelog

发生了什么

  • CodeQL 2.26.0 为 JavaScript/TypeScript 新增 js/system-prompt-injection 查询,追踪不可信用户值流入 system prompt。
  • 扩展 OpenAI、Anthropic 与 Google GenAI SDK 的 prompt-injection sinks,包括 Sora prompt、OpenAI Realtime session instructions、Google cached content/system instructions 等。
  • GitHub.com 上使用 GitHub code scanning 的用户自动获得;GitHub Enterprise Server 将在后续版本纳入,旧版本可手动升级 CodeQL。

为什么重要

Prompt 注入开始成为可进入 CI 门禁的代码数据流问题,而不再只依赖发布前红队。不过该查询主要覆盖代码中可见的 source-to-sink 路径;网页、邮件、MCP 工具结果和 RAG 文档中的间接注入仍需动态评测、权限隔离与输出验证。

立即可做

  • 在一个 TypeScript Agent 仓库植入 5 条 user input -> system prompt 污点路径,测检出率、误报率与修复时间。
  • CI 先以告警模式运行一周,建立基线后再把高置信路径设为合并门禁。
  • 另建动态测试集覆盖 tool output -> model -> privileged action,避免误以为 SAST 已解决全部注入风险。

5. Codex 与 Claude Code 的最新补丁再次证明 Agent 提示与权限配置需要可回滚

时间: Codex 0.144.2/0.144.3 于 7 月 13 日;Claude Code 2.1.207 于 7 月 11 日
证据: A,OpenAI 与 Anthropic 官方 GitHub Release

发生了什么

  • Codex 0.144.2 回滚一项 Guardian auto-review prompting 回归,恢复旧 policy template、request layout 和 tool specification;0.144.3 仅为无代码变更的版本发布。
  • Claude Code 2.1.207 将 Auto mode 在 Bedrock、Vertex AI 与 Foundry 上取消环境变量 opt-in,并改为用户级设置控制。
  • 同版修复非交互运行把远程 managed settings 永久记为已同意、Agent Teams 畸形 mailbox 消息导致崩溃循环、Windows AWS 凭证解析无限挂起等问题。
  • 插件 hooks/monitors/MCP headersHelper 拒绝在 shell-form 命令中插入 ${user_config.*},以修复 shell injection;项目级配置不再读取 pluginConfigs。

为什么重要

Agent 行为由模型、prompt、tool schema、权限和配置层共同决定。一次“只改 prompt”即可让自动审查回归;一个配置来源或 shell 插值也能扩大权限面。因此 Prompt/Skill/Policy 必须像代码一样版本化、评测和回滚,权限默认值变化也应进入发布审查。

立即可做

  • 对 Codex 先升级到 0.144.3,用 10 个历史审查任务复测漏报、误报、工具调用和人工修改时间。
  • Claude Code 用户检查 disableAutoMode、用户级设置与 managed settings,尤其是 Bedrock/Vertex/Foundry 环境。
  • 禁止把用户配置直接拼入 shell-form hook;改用参数数组或文档指定的环境变量,并记录配置来源优先级。

6. Agent 治理从日志堆叠升级为“集中观测 + 短期权限”

时间: GitHub OTel 与 Vercel Agent 于 7 月 8 日;Vercel Trace 视图于 7 月 10 日
证据: A,GitHub 与 Vercel 官方原文;部分属于近 14 天基线

发生了什么

  • GitHub 支持企业统一配置 Copilot Chat 与 Copilot CLI agent host 的 OpenTelemetry 输出,包括 OTLP endpoint、resource、headers,以及是否采集 prompt/response/tool 内容;managed setting 优先级高于环境变量。
  • Vercel Logs 的 Traces 新增 Tree/Waterfall,能显示父子 span、并行关系与耗时关键路径。
  • Vercel Agent 以独立主体 vercel-agent 默认只读;经批准的 plan 获得短期、任务范围 capability,动作还受 token scope 与团队权限约束;生成代码在 Firecracker microVM 中验证,官方称不会自行修改 production。

为什么重要

这些变化拼成一套可落地治理链:集中策略决定收集什么,Trace 定位模型/工具/并行瓶颈,临时权限和审批限制动作,沙箱与回滚控制后果。它比“让模型自我反思”更能提高生产可靠性。

立即可做

  • 给 20 次真实 Agent run 增加 span,至少区分 model、tool、sandbox、data wait 和 approval。
  • 默认不采集 prompt/response 正文,只收工具名、耗时、Token、状态码;若确需正文,先配置脱敏、访问控制和保留期。
  • 用 10 个历史事故做只读影子演练,测根因命中率、错误回滚建议率、MTTR;稳定后只开放一个需审批的低风险动作。

7. OpenAI 撤回对 SWE-Bench Pro 的推荐

时间: 7 月 8 日(近 14 天技术基线)
证据: A,OpenAI 官方审计说明已读取;最终链接复查返回 403

发生了什么

  • OpenAI 审计 SWE-Bench Pro 的 731 个公开任务,初筛 286 个疑似问题任务,并由智能体与 5 名资深工程师进一步复核。
  • 官方估计约 30% 的公开任务存在缺陷,因此撤回此前对该基准的推荐。
  • 该结论针对基准任务质量,不等于任何模型在真实软件工程中的能力自动上升或下降。

为什么重要

代码 Agent 排名对测试、环境、题目可解性和验收标准高度敏感。若采购、模型路由或版本发布只依赖一个公开榜单,基准噪声会直接变成错误决策;评测资产本身也需要版本、审计和争议处理流程。

立即可做

  • 从自己的仓库抽取 30–50 个可复现任务,冻结环境、测试、验收标准和参考修复。
  • 除一次通过率外,记录争议任务率、人工复核一致率、返工时间、实际测试执行率和每个成功任务成本。
  • 公开榜单只用于发现候选模型;是否上线仍由内部任务集与人工抽检决定。

8. NVIDIA Vera 将 Agent 的 CPU 关键路径推到基础设施前台

时间: 7 月 7 日(近 14 天技术基线)
证据: A,NVIDIA 官方博客与产品页

发生了什么

  • Vera 面向 Agent 工具执行、代码运行、沙箱、数据处理、KV cache 与编排,配备 88 个 Olympus 核、176 线程,最高 1.5TB LPDDR5X、1.2TB/s 内存带宽、3.4TB/s SCF 和 1.8TB/s NVLink-C2C。
  • NVIDIA 自报 Olympus IPC 比 Grace 高 50%;满载 Agent 工作负载的持续单核表现约为 x86 的 1.8 倍。
  • Perplexity 案例数据同属厂商/伙伴自报:repo clone + test 工作流约快 1.5 倍,并发 sandbox 启动最多快 1.9 倍。
  • 产品页仍显示 Email Me When Available,未公布广泛云实例可用性和价格,不能据此作采购结论。

为什么重要

Agent 的模型调用之间存在大量串行 CPU 工作;工具和沙箱越多,GPU 等待越明显。未来基础设施比较应以“每个完成任务的端到端成本”为单位,同时看 CPU loop latency、GPU idle 和任务成功率。

立即可做

  • 给现有 Agent trace 加 model_wait、tool_cpu、sandbox_start、data_wait 与 GPU idle 占比。
  • 若 CPU 侧占端到端时间超过 20%,先在现有 Arm/x86 机型做等并发压测;Vera 可得后再用真实 clone/build/test 流程核验。
  • 比较 P50/P95、成功任务/小时、任务/美元与 GPU idle,不采用单一厂商 microbenchmark 做采购依据。

建议行动清单

今天完成

  1. 建立版本组合矩阵: 记录 model + transformers + serving engine + parser + prompt/policy,禁止只锁模型名。
  2. 给一个 TS Agent 开 CodeQL: 先运行 js/system-prompt-injection 基线扫描,并补 5 条人工污点测试。
  3. 检查 Agent 默认权限: 复核 Claude Code Auto mode、managed settings、插件 shell 插值,以及 Codex auto-review 版本。

本周完成

  1. 对 vLLM 0.25 和 SGLang 0.5.15 各做一次可回滚灰度,统一收集 TTFT、P95、TPS、显存、错误率、输出一致性和解析成功率。
  2. 为 Agent 接入最小 Trace schema:模型等待、工具调用、沙箱启动、审批等待、Token、成本、最终成功状态。
  3. 将 Prompt/Skill/Policy 纳入 Git 与发布流程,每个版本绑定固定评测集、负责人、变更说明和回滚版本。
  4. 用 causal LM、VLM、自定义模型验证 Transformers 5.13.1 的导出与 vLLM 兼容,避免在生产直接放宽依赖。
  5. 建立 30–50 个内部可复现代码任务,给公开榜单增加任务质量审计与人工复核层。

暂不追逐

  • 搜索索引把旧页面 lastmod 更新误当成新模型发布;本次未发现 7 月 12–13 日官方新旗舰模型。
  • Ollama v0.32.0-rc0、Gemini CLI nightly 等预发布版本;除非正在解决对应问题,否则不应替换稳定生产版本。
  • 未公布可用区、云实例、价格或第三方复测的 Vera 采购结论。
  • 只凭厂商 TPS、单批次 tok/s 或单一榜单分数做迁移决策。

未来 7 天观察清单

  • vLLM 0.25 在量化模型、自定义 Transformers backend、Streaming Parser 和长上下文场景的回归报告。
  • SGLang Spec V2/Breakable CUDA Graph 默认开启后的尾延迟、输出 parity 与显存问题。
  • Transformers 5.13.1 是否继续出现与 vLLM 0.25、自定义模型和 trust_remote_code 相关补丁。
  • CodeQL js/system-prompt-injection 的真实误报/漏报,以及是否扩展到 Python 和间接工具内容注入。
  • Codex Guardian 回滚后的稳定性,以及后续 prompt/policy 变更是否附带公开评测。
  • SWE-Bench Pro 是否发布清洗版、任务级问题清单或新的维护规则,以及其他实验室是否独立复核。
  • 企业 OTel 对 prompt/response/tool 内容的默认采集策略、脱敏能力和存储成本。
  • Vera 的可购买时间、云实例、价格与独立 Agent 工作负载复测。
  • 是否出现可由官方原文确认的新模型、API、价格或权重;传闻继续留在观察区,不进入事实列表。

来源索引

官方一手来源

交叉验证来源

编辑说明

本期反向核对了 OpenAI 等官方页面日期:搜索索引中的近期 lastmod 不等于发布日期,因此没有把 GPT-5.6、GPT-5.3-Codex 等旧发布误写为 7 月 12–13 日新模型。核心动态均有官方原文;所有性能数字均明确视为厂商或项目自报。浏览器 CDP 因本次授权连接超时未使用,静态官方页面、RSS 与 GitHub Release 足以完成正文核验。