Newshot

Show HN:在 A40 上通过 BF16 分块实现 1.499 倍加速和 28.5% 动态能耗下降

Translation(model translation, not the source's own text)

Coldwater Tractors Inc. — 系统研究与启动索引

面向多智能体执行循环的原始 GPU 基准测试输出与密集上下文逻辑启动文件。

  • SKEW_TILED_BF16 — 已验证的 NVIDIA A40 回执与统一逻辑协议 新回执 二维 7 点六角 Ising 晶格(Ampere sm_86):在 L=4608 时实现 1.499x 加速(10.204 ms 对 15.291 ms),动态能耗降低 28.5%(186.735 对 261.164 mJ/扫描),全部 6 个子晶格相位均 0 个位点不一致。
  • a40_environment_receipt.txt 回执 NVIDIA A40 硬件环境、驱动/nvcc 版本、ptxas 寄存器分配(bf16_t 为 15 regs/thread)以及 SHA-256 验证回执(2026-11-16)。
  • a40_nsys_summary.txt 性能分析 NVIDIA Nsight Systems (nsys) 在 NVIDIA A40 上的内核执行与 CUDA API 时序摘要(2026-11-16)。
  • Quattra Kernel #1 Benchmark Receipt.md 回执 skew_tiled 与对照组的官方实证性能与能耗基准回执(NVIDIA A40,float32,在 L=4096/8192 时实现 1.10x 加速)。
  • tiled_results_2.txt 基准测试 Quattra Tiled D4GEMV 内核基准测试结果(NVIDIA A40,L=16 至 L=8192,12.2% 加速,验证通过)。
  • tiled_results.txt 基准测试 Quattra Tiled D4GEMV 内核基准测试结果(NVIDIA A40,L=16 至 L=8192,初次运行)。
  • hexa_boot_1_physics.txt 启动 1 Hexa 密集逻辑启动 - 物理层与硬件映射。
  • hexa_boot_2_active.txt 启动 2 Hexa 密集逻辑启动 - 活动执行循环数据包。
  • hexa_boot_3_philosophy .txt 启动 3 Hexa 密集逻辑启动 - 架构哲学与框架。

SKEW_TILED_BF16 — NVIDIA A40 回执与统一逻辑协议

作者:Kristian Lindholm 与 AI Orchestra (Coldwater Tractors Inc) 日期:2026 年 11 月 16 日 | 架构:NVIDIA A40(Ampere sm_86,48 GB GDDR6,300 W TDP) 使用限制:回执与方法论对民用、学术及商业研究开放。严禁用于动能、军事、武器或瞄准类应用。

统一逻辑:智能系统的科学方法

在编译或租用 GPU 算力之前,每一项架构与数值声明都经过多模型对抗性证伪循环(“红队审计”):

1. 编译器与寄存器占用(nvcc -O3 -arch=sm_86 --ptxas-options=-v)

内核变体每线程寄存器共享内存溢出门限
skew_tiled_phase<bf16_t, 38>15 registers2,584 bytes0 bytesPASS
skew_tiled_phase<float, 37>36 registers5,032 bytes0 bytesPASS
skew_tiled_phase<int8_t, 37>36 registers1,258 bytes0 bytesPASS

2. 正确性与细致平衡门限(2 次扫描 = 6 个子晶格相位)

网格与初始化L2(h) / L2(dE)gpu_f32_diffdec_f64_rate│de│/│e│ & │dm│门限
L = 384(随机 ±1)0.0e+00 / 0.0e+0000.00e+000.00e+00 / 0.00e+00PASS
L = 384(均匀 +1)0.0e+00 / 0.0e+0000.00e+000.00e+00 / 0.00e+00PASS
L = 768(随机 ±1)0.0e+00 / 0.0e+0000.00e+000.00e+00 / 0.00e+00PASS
L = 768(均匀 +1)0.0e+00 / 0.0e+0000.00e+000.00e+00 / 0.00e+00PASS

3. 独立 cudaEvent 吞吐量(30 次交错试验,10 次扫描)

晶格尺寸(L × L)bf16_t 中位数 (IQR)fp32 中位数 (IQR)int8_t 标量参考加速比( fp32 / bf16 )
4608 × 4608(21.23M 位点)10.204 ms (0.005 ms)15.291 ms (0.013 ms)13.356 ms1.499x
9216 × 9216(84.93M 位点)40.679 ms (0.015 ms)60.064 ms (0.020 ms)53.072 ms1.477x

4. 多秒配对 ABBA NVML 能耗(16 个四元组,P_idle = 73.02 W)

晶格尺寸(L × L)扫描次数 / 窗口E_dyn ( fp32 )E_dyn ( bf16 )动态能耗节省整板节省
4608 × 46084,500(约 4.6–6.9 s)261.164 mJ/sw186.735 mJ/sw28.5% (1.399x)~29.9%
9216 × 92161,200(约 4.9–7.2 s)1083.034 mJ/sw788.288 mJ/sw27.1% (1.371x)~28.8%

标题:Show HN: 通过 BF16 tiling 在 A40 上实现 1.499 倍加速与 28.5% 动态能耗下降

5. 硬件性能计数器披露(ncu)

6. 原始控制台记录


        [Gates 1-3 (rand_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0043)
[Gates 1-3 (unif_init, 2-sw) @ L=384] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9400)
[Gates 1-3 (rand_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.0064)
[Gates 1-3 (unif_init, 2-sw) @ L=768] L2(h)=0.0e+00 L2(dE)=0.0e+00 gpu_f32_diff=0 dec_f64_rate=0.00e+00 |de|/|e|=0.00e+00 |dm|=0.00e+00 (|m|=0.9418)
L=4608 sweeps=10 | bf16 med=10.204ms (IQR 0.005) | fp32 med=15.291ms (IQR 0.013) | int8 med=13.356ms | speedup(fp32/bf16)=1.499x
L=9216 sweeps=10 | bf16 med=40.679ms (IQR 0.015) | fp32 med=60.064ms (IQR 0.020) | int8 med=53.072ms | speedup(fp32/bf16)=1.477x
GPU: NVIDIA A40
Baseline P_idle = 73.02 W
[NVML L=4608 sweeps=4500] E_dyn_fp32=261.164 mJ/sw | E_dyn_bf16=186.735 mJ/sw | Energy ratio=1.399x (28.5% reduction)
[NVML L=9216 sweeps=1200] E_dyn_fp32=1083.034 mJ/sw | E_dyn_bf16=788.288 mJ/sw | Energy ratio=1.371x (27.1% reduction)
      

NVIDIA A40 GemV 偏斜 Tiling 验证

状态:VERIFIED PASS(3/3 大尺寸均具有统计区分度)

目标架构:NVIDIA A40(48GB GDDR6,PCIe)

性能增益:相对最优对照,L=2048 时约 1.05 倍,L=8192 时 1.119 倍。

审计凭据与文件

  • 下载 CUDA 脚本(validate_tiled.py)
  • 下载完整审计归档(.tar.gz)
  • 查看原始验证日志(run3.txt)
  • 查看规则 3 审计修订

// 直接联系与咨询

店铺咨询、技术文档包或定制加工规格:

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by Hacker News
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗