Accueil Sujet library logo Bibliothèque Mon profil
Plus

大模型推理框架 RTP-LLM 对 LoRA 的支持

摘要

LoRA(Low-rank Adapter)在大模型（如GPT-3，LLama, Qwen等）中，是一种重要的微调技术。该技术通过在不改变预训练模型参数的同时，添加低阶矩阵，学习新的、特定于任务的参数。

阅读原文
xiaozi 于 2024-02-02 分享
1370 海报分享
关联话题： #阿里巴巴

欢迎在评论区写下你对这篇文章的看法。

评论

Accueil - Wiki
Copyright © 2011-2024 iteam. Current version is 2.139.0. UTC+08:00, 2024-12-26 11:51
浙ICP备14020137号-1 $Carte des visiteurs$