KernelEvolve: How Meta’s Ranking Engineer Agent Optimizes AI Infrastructure

KernelEvolve: How Meta’ s Ranking Engineer Agent Optimizes AI Infrastructure

摘要

Meta推出KernelEvolve，用于自动生成并优化AI模型的低层硬件内核，显著提升性能。该系统通过搜索算法探索数百种内核实现，适用于NVIDIA、AMD GPU及Meta自研MTIA芯片等多平台，大幅缩短开发时间。相比人工调优，KernelEvolve在广告模型推理上实现了60%的吞吐量提升，训练效率提高25%。该系统还能动态适应新硬件和模型架构，加速AI技术的迭代与应用。