홈 항목 library logo 글 코드베이스 상점
자세히

mnn-llm: 大语言模型端侧 CPU 推理优化

摘要

本文将介绍LLM模型的导出与部署支持与MNN针对LLM端侧CPU推理的性能优化方案。

阅读原文
xiaozi 于 2024-01-05 分享
3116 海报分享
关联话题： #阿里巴巴

欢迎在评论区写下你对这篇文章的看法。

评论

홈 - 위키
Copyright © 2011-2026 iteam. Current version is 2.148.4. UTC+08:00, 2026-01-31 20:50
浙ICP备14020137号-1 $방문자$