AI Agent 黑盒优化 GPU 内核性能实战
OpenBMB 使用 AI Agent 在 NVIDIA B200 上对 FlashMLA 进行了约 22 小时的自主黑盒内核优化。在无法访问官方源码、文档或分析信息的情况下，Agent 通过执行和基准测试，实现了 1.098 倍性能（472 µs vs 518 µs），提速 9.8%。
Reddit r/LocalLLaMA/u/Equivalent-Grass-527
ForgeKernel harnessNVIDIA B200
收录于 2026-11-03 · 原文发布于 2026-11-02
操作步骤
- 1准备目标黑盒内核（例如官方 FlashMLA 实现）的执行与基准测试环境。
- 2部署 ForgeKernel harness 运行环境，配置好自主优化参数。
- 3启动 AI Agent 进行迭代优化，让其在黑盒状态下自动生成、执行并测试不同版本的内核。
- 4经过多轮迭代与版本测试（如 42 轮迭代产生 32 个内核版本），收集并评估运行性能数据。
- 5获取最终超越基准的优化后内核，并可应用到 attention、GEMM 等相关算子中。
可复制提示词
请参考 ForgeKernel 的黑盒优化方法，针对 [目标性能指标或黑盒代码块]，在无法查看源码和文档的情况下，通过“生成-执行测试-基于基准反馈迭代”的循环，自主编写并优化出性能提升的 [优化目标，例如：CUDA内核版本]。
#AI Agent#GPU优化#自动化工作流#大模型实战
相关用例
内容由 AI 依据原文翻译整理，细节以原帖为准；版权归原作者。