Agent Skills
› Orchestra-Research/AI-Research-SKILLs
Orchestra-Research/AI-Research-SKILLs
GitHub基于 LitGPT 实现和训练大语言模型，支持加载预训练架构及使用 LoRA/QLoRA 进行高效微调。提供从数据准备到模型训练的完整工作流，适用于教育理解、代码实现及生产环境微调。
Install All Skills
npx skills add Orchestra-Research/AI-Research-SKILLs --all -g -y
Skills in Collection (96)
Showing top 50 of 96 by quality score. Use the install list command or open individual skills for the rest.
基于 LitGPT 实现和训练大语言模型，支持加载预训练架构及使用 LoRA/QLoRA 进行高效微调。提供从数据准备到模型训练的完整工作流，适用于教育理解、代码实现及生产环境微调。
需要实现或复现 LLM 架构代码
需要对预训练模型进行 LoRA 或全量微调
需要快速搭建大模型推理或训练流水线
npx skills add Orchestra-Research/AI-Research-SKILLs --skill implementing-llms-litgpt -g -y
Dependencies:
litgpt
torch
transformers
提供Mamba状态空间模型的安装、配置及生成使用指南，涵盖Mamba-1/2架构差异、预训练模型加载及文本生成工作流。
安装Mamba相关库
构建或配置Mamba语言模型
加载HuggingFace上的Mamba预训练模型
进行长序列文本生成
npx skills add Orchestra-Research/AI-Research-SKILLs --skill mamba-architecture -g -y
Dependencies:
mamba-ssm
torch
transformers
causal-conv1d
RWKV是结合Transformer训练并行性与RNN推理效率的混合架构，支持线性时间复杂度和无限上下文。提供安装、流式文本生成、长文档处理及微调等核心工作流，适用于高性能AI模型部署与应用。
需要高效推理或无限上下文的LLM任务
RWKV模型的安装与配置
RWKV模型的微调与训练
RWKV与传统Transformer的性能对比
npx skills add Orchestra-Research/AI-Research-SKILLs --skill rwkv-architecture -g -y
Dependencies:
rwkv
torch
transformers
提供基于 PyTorch 的原生分布式大语言模型预训练能力，支持 FSDP2、TP、PP、CP 等 4D 并行策略。适用于在大规模 GPU 集群上对 Llama 3.1、DeepSeek V3 等模型进行高效预训练，包含安装、配置及多节点 SLURM 部署流程。
需要大规模分布式训练 LLM
配置 PyTorch 4D 并行策略
在多节点 GPU 集群上运行预训练任务
npx skills add Orchestra-Research/AI-Research-SKILLs --skill distributed-llm-pretraining-torchtitan -g -y
Dependencies:
torch>=2.6.0
torchtitan>=0.2.0
torchao>=0.5.0
提供高性能NLP分词工具，支持预训练加载与自定义训练，适用于大规模文本处理及生产环境管道构建。
需要高性能文本分词
从头训练自定义Tokenizer
构建生产级NLP流水线
npx skills add Orchestra-Research/AI-Research-SKILLs --skill huggingface-tokenizers -g -y
SentencePiece 是无监督语言无关分词器，支持 BPE 和 Unigram 算法。适用于多语言、CJK 及需确定性重现实例的场景。提供快速安装、模型训练及编码解码功能，轻量高效，是 T5/ALBERT 等模型的基础组件。
需要构建多语言 NLP 模型
处理中文、日文、韩文等 CJK 文本
要求可重复的分词结果
需要轻量级部署或高性能推理
npx skills add Orchestra-Research/AI-Research-SKILLs --skill sentencepiece -g -y
Dependencies:
sentencepiece
transformers
提供Axolotl大模型微调专家指导，涵盖YAML配置、LoRA/QLoRA训练、多模态支持及分布式策略（FSDP/NCCL），辅助用户进行模型开发、调试与最佳实践学习。
使用Axolotl进行LLM微调
询问Axolotl功能或API
实现Axolotl解决方案
调试Axolotl代码
npx skills add Orchestra-Research/AI-Research-SKILLs --skill axolotl -g -y
提供LLaMA-Factory大模型微调专家指导，涵盖WebUI无代码操作、多种量化策略及多模态支持。用于解决模型微调相关的开发、调试与最佳实践问题。
使用LLaMA-Factory进行大模型微调
查询LLaMA-Factory功能或API
实现LLaMA-Factory解决方案
调试LLaMA-Factory代码
npx skills add Orchestra-Research/AI-Research-SKILLs --skill llama-factory -g -y
提供基于LoRA和QLoRA的大语言模型参数高效微调方案，支持7B-70B模型在有限显存下快速迭代训练，适用于多适配器部署场景。
大模型微调
显存受限训练
LoRA配置
npx skills add Orchestra-Research/AI-Research-SKILLs --skill peft-fine-tuning -g -y
Dependencies:
peft>=0.13.0
transformers>=4.45.0
torch>=2.0.0
bitsandbytes>=0.43.0
提供使用nnsight库解析和操作PyTorch神经网络内部结构的指导，支持本地小模型及远程运行70B+大模型的解释性实验。
需要分析大型语言模型内部激活或注意力机制
需要在无本地GPU环境下对超大模型进行干预或推理
npx skills add Orchestra-Research/AI-Research-SKILLs --skill nnsight-remote-interpretability -g -y
Dependencies:
nnsight>=0.5.0
torch>=2.0.0
提供基于pyvene库对PyTorch模型进行因果干预的指导，支持因果追踪、激活补丁和交换干预训练等实验，用于测试模型行为的因果假设及复现实验。
需要进行因果追踪或激活补丁实验
执行交换干预训练以验证因果假设
配置可干预的PyTorch模型结构
npx skills add Orchestra-Research/AI-Research-SKILLs --skill pyvene-interventions -g -y
Dependencies:
pyvene>=0.1.8
torch>=2.0.0
transformers>=4.30.0
提供使用SAELens训练和分析稀疏自编码器的指导，用于将神经网络激活分解为可解释特征。适用于发现模型中的可解释特征、研究超位现象及分析单语义表示等场景。
发现模型中的可解释特征
分析神经网络的超位现象
研究语言模型的单语义表示
npx skills add Orchestra-Research/AI-Research-SKILLs --skill sparse-autoencoder-training -g -y
Dependencies:
sae-lens>=6.0.0
transformer-lens>=2.0.0
torch>=2.0.0
提供使用TransformerLens进行机械可解释性研究的指南，支持检查变换器内部结构、执行激活修补和因果追踪实验。
逆向工程模型算法
研究注意力模式
执行激活修补实验
npx skills add Orchestra-Research/AI-Research-SKILLs --skill transformer-lens-interpretability -g -y
Dependencies:
transformer-lens>=2.0.0
torch>=2.0.0
NVIDIA NeMo Curator是GPU加速的LLM训练数据清洗工具，支持文本、图像等多模态处理。具备模糊去重、质量过滤、PII脱敏等功能，性能优于CPU方案，适用于大规模语料库准备与清洗。
需要为LLM训练准备高质量数据集
进行大规模文本或多模态数据的去重和清洗
使用GPU加速数据处理流程
npx skills add Orchestra-Research/AI-Research-SKILLs --skill nemo-curator -g -y
Dependencies:
nemo-curator
cudf
dask
rapids
Ray Data 是用于机器学习工作负载的可扩展分布式数据处理库。支持流式执行、GPU 加速及多模态数据加载，可与 Ray Train 等框架集成，适用于大规模数据预处理、批量推理和分布式 ETL 管道。
处理大型 ML 训练数据集
构建分布式数据预处理流水线
实现批量推理管道
加载多模态数据（图像、音频等）
npx skills add Orchestra-Research/AI-Research-SKILLs --skill ray-data -g -y
Dependencies:
ray[data]
pyarrow
pandas
提供基于TRL库的GRPO强化学习微调专家指南，涵盖算法原理、奖励函数设计及数据集准备流程，用于提升模型推理能力与特定任务对齐。
需要微调大语言模型的推理或逻辑能力
通过自定义奖励函数优化模型输出格式或正确性
npx skills add Orchestra-Research/AI-Research-SKILLs --skill grpo-rl-training -g -y
Dependencies:
transformers>=4.47.0
trl>=0.14.0
datasets>=3.2.0
peft>=0.14.0
torch
提供企业级强化学习训练指导，支持TB级MoE模型、FP8/INT4低精度训练及推理对齐。适用于需要高吞吐和稳定性的生产环境RL训练场景。
训练大型MoE模型
需要进行FP8或INT4量化感知训练
要求训练与推理严格对齐
使用miles框架进行强化学习
npx skills add Orchestra-Research/AI-Research-SKILLs --skill miles-rl-training -g -y
Dependencies:
sglang-router>=0.2.3
ray
torch>=2.0.0
transformers>=4.40.0
基于Ray和vLLM的高性能RLHF训练框架，支持PPO、GRPO等算法，适用于7B-70B+大模型的分布式强化学习微调。
需要进行大模型RLHF训练
配置分布式PPO/GRPO/DPO任务
优化AI训练集群资源
npx skills add Orchestra-Research/AI-Research-SKILLs --skill openrlhf-training -g -y
Dependencies:
openrlhf
ray
vllm
torch
transformers
deepspeed
提供SimPO算法的LLM偏好对齐训练指南，涵盖安装、多场景配置及启动命令，作为DPO的轻量高效替代方案。
需要参考模型无关的偏好优化方法
希望比DPO/PPO更简单高效的LLM对齐训练
npx skills add Orchestra-Research/AI-Research-SKILLs --skill simpo-training -g -y
提供基于slime框架的LLM强化学习后训练指导，支持Megatron-LM与SGLang集成，用于GLM等模型训练及自定义数据生成。
LLM强化学习后训练
Megatron-LM集成训练
GLM模型微调
npx skills add Orchestra-Research/AI-Research-SKILLs --skill slime-rl-training -g -y
Dependencies:
sglang-router>=0.2.3
ray
torch>=2.0.0
transformers>=4.40.0
提供Meta torchforge库的PyTorch原生强化学习训练指南，支持算法与基础设施分离、分布式训练及GRPO等实验。
使用torchforge进行RL模型训练
配置GRPO/DAPO等强化学习算法
搭建基于Monarch和TorchTitan的分布式RL环境
npx skills add Orchestra-Research/AI-Research-SKILLs --skill torchforge-rl-training -g -y
Dependencies:
torch>=2.9.0
torchtitan>=0.2.0
vllm
monarch
使用TRL库对LLM进行强化学习微调，涵盖SFT、DPO、PPO及奖励模型训练。用于指令微调、偏好对齐和基于人类反馈的RLHF流程，帮助优化模型输出质量与安全性。
需要对大语言模型进行强化学习微调
执行RLHF全流程（SFT、奖励模型、PPO）
使用DPO进行偏好对齐
训练奖励模型以优化人类反馈
npx skills add Orchestra-Research/AI-Research-SKILLs --skill fine-tuning-with-trl -g -y
提供基于verl库的大语言模型强化学习训练指导，支持PPO、GRPO等算法及多后端灵活切换，适用于大规模RLHF、数学推理及视觉语言模型的分布式训练与部署。
需要进行LLM的强化学习训练（如RLHF）
需要配置或运行PPO、GRPO等RL算法
涉及大规模分布式RL训练基础设施搭建
npx skills add Orchestra-Research/AI-Research-SKILLs --skill verl-rl-training -g -y
Dependencies:
verl>=0.3.0
torch>=2.0.0
ray>=2.41.0
vllm>=0.8.2
transformers>=4.40.0
Constitutional AI 技能用于通过自我批判和AI反馈训练无害AI，无需人类标注。涵盖监督学习与强化学习两阶段流程，帮助减少有害输出，提升模型安全性与合规性。
需要训练或微调安全对齐的AI模型
希望在不使用人类标注数据的情况下减少有害输出
实施基于原则的自我批判与修订流程
npx skills add Orchestra-Research/AI-Research-SKILLs --skill constitutional-ai -g -y
Dependencies:
transformers
torch
trl
LlamaGuard 是 Meta 推出的 AI 内容审核模型，用于过滤 LLM 输入输出。支持暴力、色情等六大安全类别检测，提供 Prompt 和 Response 过滤工作流，兼容 vLLM 部署。
需要检查用户输入是否包含违规内容
需要审核大模型生成回复的安全性
npx skills add Orchestra-Research/AI-Research-SKILLs --skill llamaguard -g -y
Dependencies:
transformers
torch
vllm
NVIDIA NeMo Guardrails 是用于 LLM 应用的安全框架，提供运行时防护。支持越狱检测、输入输出验证、事实核查、幻觉检测及 PII 过滤等功能，通过 Colang 2.0 DSL 实现可编程安全护栏。
LLM 应用安全防护
提示词注入/越狱攻击检测
生成内容合规性检查
敏感信息过滤
npx skills add Orchestra-Research/AI-Research-SKILLs --skill nemo-guardrails -g -y
Dependencies:
nemoguardrails
Meta Prompt Guard用于检测LLM应用中的提示注入和越狱攻击，提供用户输入过滤和第三方数据清洗功能。
需要防护LLM免受提示注入攻击
对RAG文档或API响应进行安全过滤
npx skills add Orchestra-Research/AI-Research-SKILLs --skill prompt-guard -g -y
Dependencies:
transformers
torch
HuggingFace Accelerate 提供统一的分布式训练 API，支持多 GPU/TPU、自动设备放置及混合精度。通过少量代码集成 DeepSpeed/FSDP 等后端，简化 PyTorch 模型训练流程。
需要配置多卡或多节点分布式训练
需要启用 FP16/BF16 混合精度训练
需要将单卡 PyTorch 脚本迁移至分布式环境
npx skills add Orchestra-Research/AI-Research-SKILLs --skill huggingface-accelerate -g -y
Dependencies:
accelerate
torch
transformers
提供 DeepSpeed 分布式训练专家指导，涵盖 ZeRO、并行策略及 DeepNVMe 高性能 I/O 优化。适用于模型训练配置、API 使用、代码调试及最佳实践学习。
DeepSpeed 分布式训练配置
ZeRO 优化与并行策略咨询
DeepNVMe I/O 性能调优
DeepSpeed 代码调试
npx skills add Orchestra-Research/AI-Research-SKILLs --skill deepspeed -g -y
Dependencies:
deepspeed
torch
transformers
accelerate
用于使用 NVIDIA Megatron-Core 训练大规模语言模型（2B-462B参数）。支持 Tensor/Pipeline/Context/MoE 等高级并行策略，旨在实现 H100 上的高 GPU 利用率。提供从安装、配置超参到分布式启动及监控的完整工作流。
需要训练大于1B参数的LLM
追求H100上最高GPU效率
需要配置张量或流水线并行
部署MoE架构模型
npx skills add Orchestra-Research/AI-Research-SKILLs --skill training-llms-megatron -g -y
指导在PyTorch训练脚本中正确集成FSDP2，处理模型分片、混合精度及分布式检查点，解决单卡显存不足问题。
模型超出单GPU显存限制
需要基于DTensor的参数级分片
配置分布式训练环境
npx skills add Orchestra-Research/AI-Research-SKILLs --skill pytorch-fsdp2 -g -y
Dependencies:
torch
PyTorch Lightning 高层训练框架，通过 Trainer 和 LightningModule 消除样板代码，自动处理分布式训练、混合精度及日志等，简化模型开发与扩展。
需要简化 PyTorch 训练循环
配置分布式或多 GPU 训练
实现自动化验证测试流程
npx skills add Orchestra-Research/AI-Research-SKILLs --skill pytorch-lightning -g -y
Dependencies:
lightning
torch
transformers
用于分布式机器学习训练编排，支持PyTorch/TensorFlow/HuggingFace从单节点扩展到多节点集群，内置超参调优、容错和弹性伸缩功能。
需要在多台机器上训练大规模模型
运行分布式超参数搜索
将现有单机ML代码扩展为分布式训练
npx skills add Orchestra-Research/AI-Research-SKILLs --skill ray-train -g -y
Dependencies:
ray[train]
torch
transformers
Lambda Labs GPU云实例使用指南，涵盖账号配置、SSH连接、GPU选型及Lambda Stack环境验证，适用于大规模ML训练与推理任务。
需要租用GPU实例进行模型训练或推理
配置Lambda Cloud环境并建立SSH连接
查询不同GPU型号的规格与价格对比
npx skills add Orchestra-Research/AI-Research-SKILLs --skill lambda-labs-gpu-cloud -g -y
Dependencies:
lambda-cloud-client>=1.0.0
Modal Serverless GPU 技能指南，提供在 Modal 平台运行 ML 工作流的完整方案。涵盖按需 GPU 访问、模型 API 部署及自动扩缩容批处理任务。支持 Python 原生定义基础设施、快速冷启动与持久化存储，适用于无服务器机器学习场景。
需要运行 GPU 密集型机器学习工作负载
将 ML 模型部署为自动伸缩的 API
执行无需管理基础设施的批量训练或推理任务
npx skills add Orchestra-Research/AI-Research-SKILLs --skill modal-serverless-gpu -g -y
Dependencies:
modal>=0.64.0
提供 SkyPilot 多云 ML 工作负载编排指南，涵盖跨云部署、成本优化、Spot 实例自动恢复及分布式训练配置。
需要在多个云平台运行 ML 训练任务
寻求 GPU 成本优化与自动选择最便宜区域
管理分布式多节点训练作业
npx skills add Orchestra-Research/AI-Research-SKILLs --skill skypilot-multi-cloud-orchestration -g -y
Dependencies:
skypilot>=0.7.0
AWQ技能用于大语言模型4-bit量化，在有限GPU内存下部署7B-70B模型。相比GPTQ提供更高推理速度和精度保留，支持vLLM生产服务及Ampere+ GPU加速，适用于指令微调和多模态模型的高效推理场景。
需要在有限GPU内存上部署大型LLM
追求比GPTQ更快的推理速度且保持高精度
使用vLLM进行生产环境服务
对指令微调或聊天模型进行量化优化
npx skills add Orchestra-Research/AI-Research-SKILLs --skill awq-quantization -g -y
Dependencies:
autoawq
transformers>=4.45.0
torch>=2.0.0
指导使用bitsandbytes库对LLM进行8-bit或4-bit量化，显著降低GPU内存占用并加速推理。涵盖INT8、NF4格式配置、QLoRA训练及HuggingFace集成，适用于显存受限场景。
GPU显存不足需要加载大模型
需要对LLM进行量化以加速推理
配置QLoRA微调环境
npx skills add Orchestra-Research/AI-Research-SKILLs --skill quantizing-models-bitsandbytes -g -y
Dependencies:
bitsandbytes
transformers
accelerate
torch
提供Flash Attention集成指南，实现Transformer注意力机制2-4倍加速和10-20倍显存节省。涵盖PyTorch原生SDPA及flash-attn库用法、性能验证与精度测试流程，适用于长序列训练推理场景。
Transformer模型训练或推理速度优化
GPU显存不足需降低Attention内存占用
需要替换标准注意力机制以提升性能
npx skills add Orchestra-Research/AI-Research-SKILLs --skill optimizing-attention-flash -g -y
Dependencies:
flash-attn
torch
transformers
提供 llama.cpp GGUF 格式模型量化、转换与推理技能，支持 CPU/Apple Silicon/GPU 部署及 Q2-Q8 灵活量化。
在消费级硬件上部署大模型
需要将 HuggingFace 模型转换为 GGUF 格式
需要对模型进行量化以节省内存或提升速度
npx skills add Orchestra-Research/AI-Research-SKILLs --skill gguf-quantization -g -y
Dependencies:
llama-cpp-python>=0.2.0
提供大语言模型4位量化技术，用于在消费级GPU上部署70B+模型。支持加载预量化模型及自定义量化流程，实现显存降低4倍、推理加速3-4倍且精度损失极小。
需要在大模型部署时降低显存占用
需要在消费级GPU上运行超大参数模型
追求比FP16更快的推理速度
npx skills add Orchestra-Research/AI-Research-SKILLs --skill gptq -g -y
Dependencies:
auto-gptq
transformers
optimum
peft
提供无需校准数据的LLM半二次量化能力，支持1-8位精度及多种后端。适用于快速量化、vLLM/HF部署及LoRA微调，解决无校准数据集场景下的高效模型压缩问题。
需要量化LLM但不提供校准数据
使用vLLM或HuggingFace进行部署
对量化速度有较高要求
结合LoRA进行量化模型微调
npx skills add Orchestra-Research/AI-Research-SKILLs --skill hqq-quantization -g -y
Dependencies:
hqq>=0.2.0
torch>=2.0.0
提供PyTorch模型训练的最佳实践，涵盖架构选型、优化器配置、混合精度及调试技巧。用于神经网络训练微调、解决OOM或Loss异常、GPU性能优化及实验设计。
需要选择适合数据规模和类型的模型架构
进行深度学习模型的训练或微调
调试训练过程中的Loss激增或显存溢出(OOM)问题
优化GPU利用率和训练吞吐量
npx skills add Orchestra-Research/AI-Research-SKILLs --skill ml-training-recipes -g -y
Dependencies:
torch>=2.0.0
用于评估代码生成模型在HumanEval等基准测试上的性能，支持多语言及pass@k指标分析。适用于模型能力对比、代码质量测量及多语言支持测试。
评测代码生成模型性能
对比不同编码模型能力
测试多语言代码支持情况
衡量代码生成质量
npx skills add Orchestra-Research/AI-Research-SKILLs --skill evaluating-code-models -g -y
Dependencies:
bigcode-evaluation-harness
transformers>=4.25.1
accelerate>=0.13.2
datasets>=2.6.1
用于评估大语言模型在学术基准（如MMLU、HumanEval）上的性能，支持模型对比、结果报告及训练进度跟踪。
需要评估LLM在特定数据集上的准确率或指标
比较不同模型或版本的性能差异
生成符合行业标准的模型评测报告
npx skills add Orchestra-Research/AI-Research-SKILLs --skill evaluating-llms-harness -g -y
Dependencies:
lm-eval
transformers
vllm
用于在CPU、Apple Silicon及非NVIDIA硬件上进行LLM推理，支持边缘部署和GGUF量化。提供安装、模型下载、CLI交互及服务端API启动指南，适用于无CUDA环境或资源受限场景。
需要在非NVIDIA硬件（如Mac、AMD GPU）上运行大模型
进行边缘设备或嵌入式系统的AI部署
需要本地离线推理且避免Python依赖
npx skills add Orchestra-Research/AI-Research-SKILLs --skill llama-cpp -g -y
Dependencies:
llama-cpp-python
SGLang高性能LLM服务框架，支持RadixAttention前缀缓存。适用于JSON/正则结构化输出、智能体工作流及多轮对话场景，提供比vLLM更快的推理速度。
需要结构化输出（如JSON或正则）
构建带有重复前缀的智能体应用
执行函数调用等智能体工作流
多轮对话共享上下文
npx skills add Orchestra-Research/AI-Research-SKILLs --skill sglang -g -y
Dependencies:
sglang
torch
transformers
NVIDIA TensorRT-LLM优化LLM推理，提供高吞吐低延迟。适用于NVIDIA GPU部署、量化模型（FP8/INT4）、多GPU扩展及生产环境服务，相比PyTorch性能提升显著。
需要最大化LLM推理吞吐量或降低延迟
在NVIDIA GPU上部署生产级大语言模型服务
使用FP8/INT4等量化技术加速推理
配置多GPU或多节点并行推理
npx skills add Orchestra-Research/AI-Research-SKILLs --skill tensorrt-llm -g -y
Dependencies:
tensorrt-llm
torch
