科技日报 2026-07-13
科技日报 | 2026-07-13
信息截止:2026-07-13 15:11(Asia/Shanghai)
核心窗口:近 72 小时(7 月 10 日 15:11 至 7 月 13 日 15:11);技术背景窗口:近 14 天
证据规则:A = 官方原文已读取;B = 官方页面存在但本次正文抓取受限;C = 权威媒体交叉验证。搜索摘要只用于发现,不用于举证;所有性能数字均按厂商或项目自报处理,不等同于独立复现。
一句话结论
今天没有经官方确认的新旗舰模型发布;真正值得跟进的是旗舰发布后的工程化窗口:推理框架正在更换默认执行主干,Agent 安全进入静态扫描与集中观测,生产 Agent 则开始采用独立身份、短期权限、人工审批和可回滚执行。
今日六大洞察
- “默认路径变更”比新增模型支持更值得警惕。 vLLM 与 SGLang 同期把新 runner、投机解码和 CUDA Graph 路径推为默认,性能收益与回归风险同时上升;生产升级必须看 P95、输出一致性和回滚,不应只看平均 TPS。
- 模型库与推理框架开始联动发布。 Transformers 5.13.1 明确为最新 vLLM 补兼容,说明模型定义层、导出层和服务层已高度耦合。以后不能只锁模型权重,还要锁
transformers + serving engine + parser的组合版本。 - Prompt 注入从红队议题进入日常 CI。 CodeQL 已能追踪不可信输入流向 system prompt;这标志着 AI 应用安全开始进入传统 SAST 流程,但工具返回、网页内容和 RAG 文档造成的间接注入仍需运行时测试。
- Agent 治理栈正在产品化。 开发期有 SAST,运行期有 Trace/OTel,生产期有独立身份、临时 capability、审批、沙箱和回滚。真正能进入生产的 Agent,不再只靠模型“听话”,而靠系统性限制爆炸半径。
- Agent 成本不只发生在 GPU 上。 Vera 把工具执行、沙箱启动、数据处理和编排列为 CPU 关键路径。评估 Agent 时应拆分模型等待、工具 CPU、沙箱启动、数据等待与 GPU idle,而不是只计算 Token 单价。
- 公开基准的“高分”不再足以支撑采购。 OpenAI 审计 SWE-Bench Pro 后撤回推荐,估计约 30% 的公开任务存在缺陷。内部真实任务集、人工复核一致率和争议任务比例,应与榜单分数同等重要。
核心动态
1. vLLM v0.25.0 更换生产推理主干
时间: 7 月 12 日 04:06(北京时间)
证据: A,vLLM 官方 GitHub Release
发生了什么
Model Runner V2成为所有稠密模型的默认执行路径,旧PagedAttention实现被删除。- Transformers modeling backend 获 FP8 MoE、CUDA Graph 等增强;项目称其性能已达到原生 vLLM backend 水平。
- 新增异构词表通用投机解码、统一 Streaming Parser Engine、Responses API namespace tools,以及 Rust 前端 HTTPS/mTLS。
- 本次含 558 次提交、232 位贡献者;同时修复图像解压炸弹导致 OOM、NaN 音频导致无限循环等安全问题。
- 项目自报:无数据并行条件下的序列并行带来 1.9%–5.0% 端到端吞吐提升;其他 GLM/DeepSeek 优化数字同样尚未独立复现。
为什么重要
这不是普通小版本,而是服务执行主干迁移。收益覆盖多模型、多硬件、投机解码和工具解析,但旧实现删除意味着“升级后再观察”不是稳妥策略;量化模型、自定义 Transformers backend、长上下文和工具调用路径都可能成为回归点。
立即可做
- 固定模型、权重、驱动、请求集和随机设置,对
v0.24/v0.25做 5% shadow/canary。 - 同时记录 TTFT、ITL P50/P95、output TPS、显存、错误率、输出一致率和 tool/reasoning parser 成功率。
- 升级前核对被移除的模型与旧 API,保留旧镜像、依赖锁文件和一键流量回切。
2. SGLang v0.5.15 把投机解码和 CUDA Graph 推入默认路径
时间: 7 月 11 日 06:58(北京时间)
证据: A,SGLang 官方 GitHub Release
发生了什么
Spec V2与 Breakable CUDA Graph 默认启用;完整 prefill CUDA Graph 以实验功能落地。- 加入 IndexShare MTP、TopK V2、Blackwell JIT GEMM、DeepSeek-V4 长上下文优化与 Decode Context Parallelism。
- 新增或增强 GLM-5.2、Qwen3.6 NVFP4、Hy3、Unlimited-OCR 等模型路径,并扩展 AMD、Intel XPU 与 NPU 支持。
- 项目自报:Spec V2 端到端 TPS 提升 11%;IndexShare MTP 在长上下文下降低 draft-step 成本最多 1.9 倍。GLM-5.2 的 B300/GB300 数据属于项目配置下的单批次结果,不能外推为通用吞吐。
为什么重要
vLLM 与 SGLang 同期把新调度/图捕获路径设为默认,说明推理竞争已从“支持多少模型”转向 runner、draft model、CUDA Graph、MoE 通信和 parser 的全链路协同。默认开启也会同时改变延迟尾部、显存和输出稳定性。
立即可做
- 在并发 1/8/32、输入 4K/32K 下对
0.5.14/0.5.15做 A/B,并分别测试 Spec V2、Breakable CUDA Graph 开/关。 - 记录 TTFT、P95、端到端 TPS、draft acceptance、graph break 次数、OOM/错误率和逐 Token 输出一致性。
- 先以 1% 生产流量灰度;任何提升结论必须同时满足质量不降、尾延迟不恶化和可快速回滚。
3. Transformers 5.13 把多运行时导出变成原生主路径
时间: v5.13.0 于 7 月 4 日发布;兼容补丁 v5.13.1 于 7 月 11 日 17:15 发布
证据: A,Hugging Face 官方 GitHub Release;5.13.0 属近 14 天技术基线
发生了什么
- 新增统一
HfExporter,用一致接口覆盖 PyTorch/Dynamo、ONNX 与 ExecuTorch。 - 动态 shape 默认开启;生成模型自动拆分 prefill/decode,VLM 还可进一步拆分视觉、音频、projector、语言模型和 head。
- 5.13.0 同期包含模型层、attention mask/cache、混合注意力与专家并行接口的标准化,存在破坏性变化。
- 5.13.1 官方明确聚焦“支持最新版 vLLM”,修复自定义模型旧 layer type 映射、新 linear type 名称和
_LazyAutoMapping.register字符串 key。
为什么重要
从 Hugging Face 到 ORT、TensorRT、OpenVINO、ExecuTorch 的导出胶水正在收敛,但模型定义层与服务引擎的耦合也更紧。依赖内部 modeling API、trust_remote_code 或自定义 layer mapping 的项目,不能把 5.13 当普通依赖升级。
立即可做
- 选一个 causal LM、一个 VLM、一个 custom model,分别导出 ONNX/ExecuTorch。
- 校验动态 batch/sequence、prefill/decode logits 与 eager 的误差、冷启动、P95、峰值内存和 artifact 大小。
- vLLM 0.25 联调先固定
transformers==5.13.1;通过全套回归后再放宽版本范围。
4. CodeQL 将系统提示注入纳入静态扫描
时间: 7 月 11 日 04:40(北京时间;官方页面标注 7 月 10 日)
证据: A,GitHub 官方 Changelog
发生了什么
- CodeQL 2.26.0 为 JavaScript/TypeScript 新增
js/system-prompt-injection查询,追踪不可信用户值流入 system prompt。 - 扩展 OpenAI、Anthropic 与 Google GenAI SDK 的 prompt-injection sinks,包括 Sora prompt、OpenAI Realtime session instructions、Google cached content/system instructions 等。
- GitHub.com 上使用 GitHub code scanning 的用户自动获得;GitHub Enterprise Server 将在后续版本纳入,旧版本可手动升级 CodeQL。
为什么重要
Prompt 注入开始成为可进入 CI 门禁的代码数据流问题,而不再只依赖发布前红队。不过该查询主要覆盖代码中可见的 source-to-sink 路径;网页、邮件、MCP 工具结果和 RAG 文档中的间接注入仍需动态评测、权限隔离与输出验证。
立即可做
- 在一个 TypeScript Agent 仓库植入 5 条
user input -> system prompt污点路径,测检出率、误报率与修复时间。 - CI 先以告警模式运行一周,建立基线后再把高置信路径设为合并门禁。
- 另建动态测试集覆盖
tool output -> model -> privileged action,避免误以为 SAST 已解决全部注入风险。
5. Codex 与 Claude Code 的最新补丁再次证明 Agent 提示与权限配置需要可回滚
时间: Codex 0.144.2/0.144.3 于 7 月 13 日;Claude Code 2.1.207 于 7 月 11 日
证据: A,OpenAI 与 Anthropic 官方 GitHub Release
发生了什么
- Codex
0.144.2回滚一项 Guardian auto-review prompting 回归,恢复旧 policy template、request layout 和 tool specification;0.144.3仅为无代码变更的版本发布。 - Claude Code 2.1.207 将 Auto mode 在 Bedrock、Vertex AI 与 Foundry 上取消环境变量 opt-in,并改为用户级设置控制。
- 同版修复非交互运行把远程 managed settings 永久记为已同意、Agent Teams 畸形 mailbox 消息导致崩溃循环、Windows AWS 凭证解析无限挂起等问题。
- 插件 hooks/monitors/MCP
headersHelper拒绝在 shell-form 命令中插入${user_config.*},以修复 shell injection;项目级配置不再读取pluginConfigs。
为什么重要
Agent 行为由模型、prompt、tool schema、权限和配置层共同决定。一次“只改 prompt”即可让自动审查回归;一个配置来源或 shell 插值也能扩大权限面。因此 Prompt/Skill/Policy 必须像代码一样版本化、评测和回滚,权限默认值变化也应进入发布审查。
立即可做
- 对 Codex 先升级到
0.144.3,用 10 个历史审查任务复测漏报、误报、工具调用和人工修改时间。 - Claude Code 用户检查
disableAutoMode、用户级设置与 managed settings,尤其是 Bedrock/Vertex/Foundry 环境。 - 禁止把用户配置直接拼入 shell-form hook;改用参数数组或文档指定的环境变量,并记录配置来源优先级。
6. Agent 治理从日志堆叠升级为“集中观测 + 短期权限”
时间: GitHub OTel 与 Vercel Agent 于 7 月 8 日;Vercel Trace 视图于 7 月 10 日
证据: A,GitHub 与 Vercel 官方原文;部分属于近 14 天基线
发生了什么
- GitHub 支持企业统一配置 Copilot Chat 与 Copilot CLI agent host 的 OpenTelemetry 输出,包括 OTLP endpoint、resource、headers,以及是否采集 prompt/response/tool 内容;managed setting 优先级高于环境变量。
- Vercel Logs 的 Traces 新增 Tree/Waterfall,能显示父子 span、并行关系与耗时关键路径。
- Vercel Agent 以独立主体
vercel-agent默认只读;经批准的 plan 获得短期、任务范围 capability,动作还受 token scope 与团队权限约束;生成代码在 Firecracker microVM 中验证,官方称不会自行修改 production。
为什么重要
这些变化拼成一套可落地治理链:集中策略决定收集什么,Trace 定位模型/工具/并行瓶颈,临时权限和审批限制动作,沙箱与回滚控制后果。它比“让模型自我反思”更能提高生产可靠性。
立即可做
- 给 20 次真实 Agent run 增加 span,至少区分 model、tool、sandbox、data wait 和 approval。
- 默认不采集 prompt/response 正文,只收工具名、耗时、Token、状态码;若确需正文,先配置脱敏、访问控制和保留期。
- 用 10 个历史事故做只读影子演练,测根因命中率、错误回滚建议率、MTTR;稳定后只开放一个需审批的低风险动作。
7. OpenAI 撤回对 SWE-Bench Pro 的推荐
时间: 7 月 8 日(近 14 天技术基线)
证据: A,OpenAI 官方审计说明已读取;最终链接复查返回 403
发生了什么
- OpenAI 审计 SWE-Bench Pro 的 731 个公开任务,初筛 286 个疑似问题任务,并由智能体与 5 名资深工程师进一步复核。
- 官方估计约 30% 的公开任务存在缺陷,因此撤回此前对该基准的推荐。
- 该结论针对基准任务质量,不等于任何模型在真实软件工程中的能力自动上升或下降。
为什么重要
代码 Agent 排名对测试、环境、题目可解性和验收标准高度敏感。若采购、模型路由或版本发布只依赖一个公开榜单,基准噪声会直接变成错误决策;评测资产本身也需要版本、审计和争议处理流程。
立即可做
- 从自己的仓库抽取 30–50 个可复现任务,冻结环境、测试、验收标准和参考修复。
- 除一次通过率外,记录争议任务率、人工复核一致率、返工时间、实际测试执行率和每个成功任务成本。
- 公开榜单只用于发现候选模型;是否上线仍由内部任务集与人工抽检决定。
8. NVIDIA Vera 将 Agent 的 CPU 关键路径推到基础设施前台
时间: 7 月 7 日(近 14 天技术基线)
证据: A,NVIDIA 官方博客与产品页
发生了什么
- Vera 面向 Agent 工具执行、代码运行、沙箱、数据处理、KV cache 与编排,配备 88 个 Olympus 核、176 线程,最高 1.5TB LPDDR5X、1.2TB/s 内存带宽、3.4TB/s SCF 和 1.8TB/s NVLink-C2C。
- NVIDIA 自报 Olympus IPC 比 Grace 高 50%;满载 Agent 工作负载的持续单核表现约为 x86 的 1.8 倍。
- Perplexity 案例数据同属厂商/伙伴自报:repo clone + test 工作流约快 1.5 倍,并发 sandbox 启动最多快 1.9 倍。
- 产品页仍显示
Email Me When Available,未公布广泛云实例可用性和价格,不能据此作采购结论。
为什么重要
Agent 的模型调用之间存在大量串行 CPU 工作;工具和沙箱越多,GPU 等待越明显。未来基础设施比较应以“每个完成任务的端到端成本”为单位,同时看 CPU loop latency、GPU idle 和任务成功率。
立即可做
- 给现有 Agent trace 加
model_wait、tool_cpu、sandbox_start、data_wait与 GPU idle 占比。 - 若 CPU 侧占端到端时间超过 20%,先在现有 Arm/x86 机型做等并发压测;Vera 可得后再用真实 clone/build/test 流程核验。
- 比较 P50/P95、成功任务/小时、任务/美元与 GPU idle,不采用单一厂商 microbenchmark 做采购依据。
建议行动清单
今天完成
- 建立版本组合矩阵: 记录
model + transformers + serving engine + parser + prompt/policy,禁止只锁模型名。 - 给一个 TS Agent 开 CodeQL: 先运行
js/system-prompt-injection基线扫描,并补 5 条人工污点测试。 - 检查 Agent 默认权限: 复核 Claude Code Auto mode、managed settings、插件 shell 插值,以及 Codex auto-review 版本。
本周完成
- 对 vLLM 0.25 和 SGLang 0.5.15 各做一次可回滚灰度,统一收集 TTFT、P95、TPS、显存、错误率、输出一致性和解析成功率。
- 为 Agent 接入最小 Trace schema:模型等待、工具调用、沙箱启动、审批等待、Token、成本、最终成功状态。
- 将 Prompt/Skill/Policy 纳入 Git 与发布流程,每个版本绑定固定评测集、负责人、变更说明和回滚版本。
- 用 causal LM、VLM、自定义模型验证 Transformers 5.13.1 的导出与 vLLM 兼容,避免在生产直接放宽依赖。
- 建立 30–50 个内部可复现代码任务,给公开榜单增加任务质量审计与人工复核层。
暂不追逐
- 搜索索引把旧页面
lastmod更新误当成新模型发布;本次未发现 7 月 12–13 日官方新旗舰模型。 - Ollama
v0.32.0-rc0、Gemini CLI nightly 等预发布版本;除非正在解决对应问题,否则不应替换稳定生产版本。 - 未公布可用区、云实例、价格或第三方复测的 Vera 采购结论。
- 只凭厂商 TPS、单批次 tok/s 或单一榜单分数做迁移决策。
未来 7 天观察清单
- vLLM 0.25 在量化模型、自定义 Transformers backend、Streaming Parser 和长上下文场景的回归报告。
- SGLang Spec V2/Breakable CUDA Graph 默认开启后的尾延迟、输出 parity 与显存问题。
- Transformers 5.13.1 是否继续出现与 vLLM 0.25、自定义模型和
trust_remote_code相关补丁。 - CodeQL
js/system-prompt-injection的真实误报/漏报,以及是否扩展到 Python 和间接工具内容注入。 - Codex Guardian 回滚后的稳定性,以及后续 prompt/policy 变更是否附带公开评测。
- SWE-Bench Pro 是否发布清洗版、任务级问题清单或新的维护规则,以及其他实验室是否独立复核。
- 企业 OTel 对 prompt/response/tool 内容的默认采集策略、脱敏能力和存储成本。
- Vera 的可购买时间、云实例、价格与独立 Agent 工作负载复测。
- 是否出现可由官方原文确认的新模型、API、价格或权重;传闻继续留在观察区,不进入事实列表。
来源索引
官方一手来源
- vLLM v0.25.0 Release
- SGLang v0.5.15 Release
- Transformers v5.13.0 Release
- Transformers v5.13.1 Release
- GitHub: CodeQL 2.26.0 adds AI prompt injection detection
- OpenAI Codex 0.144.2 Release
- OpenAI Codex 0.144.3 Release
- Claude Code 2.1.207 Release
- GitHub: Enterprise-managed OpenTelemetry for Copilot
- Vercel: Traces Tree and Waterfall views
- Vercel Agent
- OpenAI: Separating signal from noise in coding evaluations
- PyTorch 2.13.0 Release
- NVIDIA: Vera and CPU critical paths for agents
- NVIDIA Vera CPU product page
- OpenAI: GPT-5.6
- OpenAI: GPT-5.6 in Microsoft 365 Copilot
交叉验证来源
编辑说明
本期反向核对了 OpenAI 等官方页面日期:搜索索引中的近期 lastmod 不等于发布日期,因此没有把 GPT-5.6、GPT-5.3-Codex 等旧发布误写为 7 月 12–13 日新模型。核心动态均有官方原文;所有性能数字均明确视为厂商或项目自报。浏览器 CDP 因本次授权连接超时未使用,静态官方页面、RSS 与 GitHub Release 足以完成正文核验。

