AI工程：Fine-tuning
关联话题: 微调、Supervised Fine-Tuning、SFT、监督微调
大模型微调方法总结
LoRA,Adapter,Prefix-tuning,P-tunin.
ChatGLM-6B微调：基于P-Tuningv2实践
P-Tuning v2 在 3亿到100 亿参数的广阔参数规模上，均能仅以 0.1%～3% 的微调参数量，取得和精调方法媲美的迁移效果；在文本分类和问答到序列标注的广泛任务类型上，P-Tuning v2 也总能取得和精调方法接近的表现水平。
浅尝prompt咒语设计：one-shot微调chatglm-6b实践信息抽取
近期以chatgpt等文生成LLMS爆火，国内也逐渐开源了中文版的chatgpt，本文以清华大学开源的6b的chatglm为例，实践one-shot微调，设计prompt咒语在信息抽取领域的实验效果。