类库
› lucebox-hub
Luce-Org/lucebox-hub
Luce-Megakernel是一个为本地AI优化的高性能计算内核项目,专门针对消费级GPU(如RTX3090)。它通过定制的CUDA内核和量化技术,实现了混合DeltaNet/注意力架构LLM的高吞吐量与高效率,旨在在消费级硬件上达到媲美苹果芯片的效率水平。
截图
Luce-Megakernel是一个为本地AI优化的高性能计算内核项目,专门针对消费级GPU(如RTX3090)。它通过定制的CUDA内核和量化技术,实现了混合DeltaNet/注意力架构LLM的高吞吐量与高效率,旨在在消费级硬件上达到媲美苹果芯片的效率水平。