淘宝 MNN 团队开源 0.3B 手机模型,iPhone 18 Pro 上离线跑出 350 token/s

摘要

MNN团队推出手机应用原生大模型MNN-Pocket-0.3B,通过模型结构、词表、训练与推理引擎协同设计,在0.3B参数下兼顾任务能力、速度与低资源消耗,支持端侧部署与业务适配,为高频应用提供高效智能底座。

欢迎在评论区写下你对这篇文章的看法。

评论

홈 - 위키
Copyright © 2011-2026 iteam. Current version is 2.156.0. UTC+08:00, 2026-11-06 13:28
浙ICP备14020137号-1