TangoLLVM 将 Go SSA 转成 LLVM IR,再把生成的机器码和运行时元数据回填到 Go 符号。下表的结果来自所列公开负载的实测和回归验证。
GC 与异步抢占
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 异步抢占 | 无调用的热循环拖长 GC 停止阶段 | 按指令位置标记不可抢占区间 | preempt 无调用循环的停止 p99 从 2,621.44 µs 降至 40.96 µs,与 std 同桶 |
| 写屏障合流 | 反向分析可能漏查合流路径 | 检查全部前驱,无法证明时保守标记 | LLVM 合流回归和严格 GC 下的 gcload 通过 |
| 运行时与 NoSplit | 叶函数启发式可能漏掉前端的抢占限制 | 直接使用前端的 runtime 与 NoSplit 标记 | gcload 在严格 GC 下完成 136 个周期,preempt 压测通过 |
| 向量状态 | 扩展向量寄存器未纳入抢占保存范围 | 保存向量与掩码状态,缩小 SIMD 禁抢占区间 | preempt 固定时长测试中,停止 p99 与 std 同为 40.96 µs,每周期 GC CPU 低 2.06%,总 GC CPU 高 5.05% |
| SSE 与 AVX 切换 | 恢复未使用的向量状态增加切换开销 | 仅保存和恢复实际使用的向量组件 | Go 标准库 regexp/FindString 相对 std 的耗时从 +45.94% 变为 −22.42%,复测各配置的切换事件为零 |
| 局部禁抢占区间 | 写屏障块尾和重复栈检查被过度标记 | 缩小可证明的保护区间,识别等价栈检查 | kube-apiserver 少 85,018 个不可抢占指令字节 |
| ThinLTO 内联抢占 | 被内联函数的抢占限制扩大到整个调用方 | 按内联作用域标记实际受限指令 | cmd/go 的不可抢占指令字节占比从 79.92% 降至 36.67%,kube-apiserver 从 84.72% 降至 45.16% |
正确性 bug
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 全量 LTO 栈对象元数据 | 空的栈对象引用使 Go 链接失败 | 清除缺失栈对象的辅助引用 | cmd/go 通过全量 LTO 构建和版本检查 |
| x86 双操作数指令 | 栈指针改写与操作数和标志位约束冲突 | 按指令约束选择等价改写或保留原操作 | 编译器回归通过,kube-apiserver 通过构建及版本检查 |
| 只读数据 | 隐式零填充丢失,优化中的外部声明也可能被提前移除 | 保留需隐式填充的 Go 符号,并保留优化后需要恢复的声明 | gcload 严格 GC 通过,kube-apiserver 在打开和关闭只读数据物化时均通过版本检查 |
| 栈追踪参数 | LLVM 参数槽位置与 Go 的假设不同,部分槽的值无法确认 | 写入实际参数位置和逐指令活跃信息 | Go 标准库的 runtime 参数回溯测试在 std 与 LLVM3 均通过 |
| 大结构体返回 | 编译器生成的复制或清零调用缺少参数区记录 | 更新隐式调用的参数区和元数据 | 大结构体返回回归和 gcload 严格 GC 通过 |
| Kitex 编解码 | Frugal JIT 对寄存器改写和未知控制流的处理导致启动失败 | 保留可能被改写的寄存器,对未知控制流使用回退路径 | Kitex 补齐两档速率的 16 个 LLVM 测试配置,计入 std 对照共完成 1,296 万个请求 |
PGO 工具链
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| LBR 录制解析 | 独立的指令地址与分支栈记录可能被误认成调用帧 | 正确识别两种输入格式,空样本时直接报错 | Go 标准库的 14 组录制通过覆盖检查,两种输入生成的 profile 逐字节一致 |
| ABI0 采样归属 | 汇编函数和 Go 包装函数共享 DWARF 名称 | 用 ELF 地址区间恢复 ABI0 名称,统一函数和调用边的归属 | math/big、crypto/sha256 和 hash/crc32 等七组标准库用例的两种 LTO 配置均通过建档和计时 |
| 样本覆盖 | 已由 Go 后端编译的函数样本压低 LLVM 覆盖率 | 仅从分母剔除明确归属 Go 后端的样本 | Sonic 的原始覆盖率为 26.28%,按调整后的分母为 100%,启用排除名单的 ThinLTO + PGO 构建通过 |
编译时间
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 参数槽分析 | 在深层分支合流图中反复回溯参数来源 | 改为按参数寄存器做前向数据流分析 | gcload 与 kube-apiserver 的候选和对照产物逐字节一致 |
编译/链接内存与 LTO/ThinLTO 规模
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| ThinLTO | 大型 bitcode 的全局合并耗时、占内存 | 用摘要索引规划导入,按模块执行后端 | kube-apiserver 的两次冷构建均通过版本检查。串行全量 LTO 为 82.95 分钟和 24.75 GiB,8 路 ThinLTO 为 7.15 分钟和 5.44 GiB。RSS 为采样进程树峰值 |
| 导入预算 | 固定预算可能漏掉 JSON 热路径所需的函数体 | 提高默认导入预算并校验样本导向的候选 | go1/CodeMarshal 耗时与全量 LTO 相差在 3% 以内。预算从 2,000 提至 8,000 时,kube-apiserver 冷构建耗时增加 0.23%,采样峰值 RSS 增加 1.30% |
| 后端缓存 | 临时路径和提取顺序使相同输入失去缓存复用 | 稳定模块标识、缓存键和顺序,原子写入缓存对象 | kube-apiserver 重链复用全部 1,821 个后端缓存对象,成品与对照逐字节一致 |
| 后端内存调度 | 仅限制任务数无法约束并行后端的内存压力 | 按模块内存估算调度,超预算的后端串行重试 | kube-apiserver 在 6 GiB 后端预算下采样进程树峰值为 5.60 GiB,三个后端串行重试成功 |
| 机器函数释放试验 | 机器函数的临时数据保留过久 | 在发射后提前释放临时状态 | cmd/go 的 llc 回放峰值约 1.60 GiB,释放前后基本持平 |
| Go PC 表编码 | 固定差值的中间对象保留到发射末尾 | 提前编码已知的 PC 差值 | cmd/go 全量 LTO 和 kube-apiserver 单 ThinLTO 后端的 llc 回放峰值 RSS 分别下降 22.0% 和 25.9%,对象逐字节一致 |
| 链接器对象内存 | 链接器同时保留全部后端对象和回填索引 | 按需读取对象节,回填完成后释放模块表 | cmd/go 的 231 模块缓存重链峰值 RSS 下降 9.5%,产物逐字节一致 |
链接
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 按包选择 LTO | 选定包的冷构建受参数传递和并行不稳定影响 | 修正参数转发并限制冷构建并行 | 选包配置下 cmd/go 构建和版本检查通过 |
| 确定性 | 同一输入的对象输出受处理顺序影响 | 按指令与发现顺序生成元数据 | kube-apiserver 两次独立冷后端重链的 1,821 个对象和最终 ELF 逐字节一致 |
| Go 分栈类别 | 内联后叶子化导致 LLVM 函数体与 Go 符号的分栈类别不一致 | 保留 Go 汇编确定的栈检查和元数据槽位 | ThinLTO 因 LLVM nosplit 与 Go split 不符而拒绝回填的次数,cmd/go 从 372 降至 0,kube-apiserver 从 9,689 降至 0 |
黑名单与可行性覆盖
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 转换与存活标记 | 指针转换、KeepAlive 和 VarLive 触发后端回退 | 补齐转换保护、存活标记和重定位 | cmd/go 的 LLVM 选择率从 79.52% 提高到 92.69% |
| defer 与 init | 开放编码 defer 和合成 init 触发回退 | 补齐恢复路径和帧槽信息,放行符合条件的 init | 独立 cmd/go 对照新增 601 个 defer 类和 272 个 init 类 LLVM 函数 |
| intrinsic 与 ABI | 部分 map、数学和 ABI 操作缺少后端支持 | 补齐指令选择和调用约定 | cmd/go 新增 74 个由 LLVM 编译的函数,Go 标准库的 map 和数学定向测试通过 |
| 尾调用 | 部分 ABIInternal 尾调用无法保持 Go 栈约定 | 将可用尾调用降为符合 Go ABI 的尾跳 | cmd/go 的 LLVM 选择率从 97.35% 提高到 99.76%,消除 679 个尾调用回退 |
运行时性能与代码生成
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 参数溢出槽 | 被调方重复分配调用方已预留的参数槽 | 证明参数值不变时复用已有槽位 | gcload 的 main.handle 栈帧从 152 B 降至 136 B,集成版本的每周期栈扫描量下降 5.51% |
| 栈对象记录 | 局部栈对象重复登记在精确状态点图和栈对象表中 | 省去由精确状态点图完整覆盖的冗余记录 | gcload 的栈对象数从 558 降至 553,吞吐和每周期栈扫描量的变化未达显著 |
| GC 热函数对照 | 内联改变 scanobject 的独占采样归属 | 同时比较含子调用的计数和每次分配的开销 | gcload 在诊断排除配置下,总 cycles/allocation 下降 2.90% |
基准方法与有效性
横向滚动可查看其余列
| 项目 | 问题 | 修复 | 公开负载结果 |
|---|---|---|---|
| 布局稳健计时 | 函数排列影响小幅吞吐差异 | 对多种布局做配对和交错测量,并引入独立 std 布局对照 | gcload 两种源码形态的 std 对照区间全宽分别为 1.102 和 1.186 个百分点 |
| Go PGO 与布局 | 原生 Go PGO 可能覆盖显式符号顺序 | 将排序信息与 CPU profile 一同传入,按地址核对 | Go 标准库复测的各配置均通过布局检查 |
| 固定工作量审计 | 编译优化消除了部分变长整数编码工作 | 核对反汇编中的编码写入,修正输入与结果消费后重测 | Go 标准库 PutUvarint64 修复版保留实际写入,结果单独报告 |
| 回归门禁 | 多类构建和运行验证分散 | 统一比较编译回归、GC、抢占和元数据 | gcload 严格 GC、preempt 压测及 kube-apiserver 版本检查均纳入回归 |
整体效果
- 历史公开 CPU 汇总中,全量 LTO + PGO 相对 std 的耗时几何平均降低 17.21%,覆盖 32 个有效用例。
- 固定工作量下,全量 LTO + PGO 相对 std 的每请求耗时在 gcload 降低 22.55%,在 Sonic 解码循环降低 13.28%。
- ThinLTO + PGO 的定向无调用热循环对照中,GC 停止 p99 降低 29.17%,BH q 值为 0.046875。
进行中与已知未解决
- Sonic 启用排除名单的 ThinLTO + PGO 配置已通过构建,历史矩阵仍缺该配置的计时。
- ThinLTO 作用域修复在 kube-apiserver 上已有静态覆盖结果。动态停顿收益已在定向热循环测得,其他 preempt 测试中的停止 p99 仍落在相同直方图桶。