Agent Skills
› EvolvingLMMs-Lab/LLaVA-OneVision-2
EvolvingLMMs-Lab/LLaVA-OneVision-2
GitHub指导撰写符合 Conventional Commits 规范的 Git 提交信息,确保格式统一、语义清晰,支持自动化日志生成。
Install All Skills
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --all -g -y
Skills in Collection (8)
指导撰写符合 Conventional Commits 规范的 Git 提交信息,确保格式统一、语义清晰,支持自动化日志生成。
需要生成或优化 Git commit message
遵循仓库提交规范检查
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill commit-message -g -y
解析 LLaVA-OneVision2 中 cu_lengths 与 patch_positions 对 ViT 及 LLM 阶段注意力机制的控制逻辑,用于调试 packed 序列行为及跨样本隔离问题。
分析 LLaVA-OneVision2 前向传播中的 attention 边界
调试 packed vs non-packed 的 attention 行为
理解 ViT 层和 LLM 层 attention 控制的区别
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill cu-lengths-attention-flow -g -y
指导在多台节点并行运行脚本,将大规模SFT JSONL数据打包为Energon WebDataset分片。涵盖前置条件、流水线架构及多节点协作步骤,用于高效处理百万级样本的数据集构建。
需要打包大规模SFT JSONL数据
使用auto_pipe.sh进行多节点并行数据处理
构建Energon WebDataset分片
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill distributed-offline-packing -g -y
用于分析、调试和调优多GPU训练中的LengthPoolSortDataset,解决跨rank长度同步瓶颈以提升训练效率。
多卡训练速度慢
排查rank同步瓶颈
调优length_sort_pool_size
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill length-pool-sort-dataset -g -y
验证 HuggingFace 与 Megatron/MCore checkpoint 行为一致性,提供 pytest 套件及转换脚本,支持 TP/PP 配置下的模型对齐与无损重分片。
需要验证 HF 和 Megatron 模型权重是否一致
进行模型格式转换或重新分片
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill llava-onevision2-consistency -g -y
用于排查、设计和转换 Megatron/Megatron-Core 检查点,核心在于根据是否存在专家并行(EP)来正确识别 1D/2D/3D 的 mp_rank 布局目录结构。
诊断 Megatron checkpoint 加载失败
转换不同并行策略的检查点格式
分析 TP, PP, EP 组合下的目录命名规则
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill megatron-checkpoint-layout -g -y
用于将独立的ViT编码器和LLM合并为统一的LlavaOnevision2 HuggingFace检查点,并验证合并后权重与推理输出的一致性。
合并多模态模型组件
验证模型权重一致性
生成HuggingFace检查点
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill merge-ov2 -g -y
指导配置 LLaVA-OneVision2 训练侧样本打包的环境变量,解释 OFFLINE_PACKING_BMR 和 OFFLINE_PACKED_DATA 必须同时启用以消除 padding,并澄清已废弃的 VQA 变量。
配置 LLaVA-OneVision2 训练脚本环境变量
调试训练侧样本打包导致的注意力泄漏问题
排查 cu_lengths 张量异常
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill offline-packing-env-vars -g -y


