Agent Skills
› EvolvingLMMs-Lab/LLaVA-OneVision-2
EvolvingLMMs-Lab/LLaVA-OneVision-2
GitHub指导编写符合 Conventional Commits 规范的 Git 提交信息,确保格式一致、语义清晰,适用于开源协作和自动变更日志生成。
Install All Skills
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --all -g -y
Skills in Collection (8)
指导编写符合 Conventional Commits 规范的 Git 提交信息,确保格式一致、语义清晰,适用于开源协作和自动变更日志生成。
需要撰写或优化 Git commit message
遵循仓库特定的提交规范
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill commit-message -g -y
指导理解 LLaVA-OneVision2 中 cu_lengths 和 patch_positions 对 ViT 及 LLM 阶段注意力边界的影响,用于调试 packed 序列行为和跨样本隔离机制。
分析 LLaVA-OneVision2 前向传播中的 attention 边界
调试 packed vs non-packed attention behavior
理解 ViT 与 LLM 层 attention 控制差异
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill cu-lengths-attention-flow -g -y
指导在多台节点并行运行脚本,将大规模SFT JSONL数据打包为Energon WebDataset分片。涵盖前置条件、四阶段流水线架构及多节点协作细节,用于高效处理百万级样本的序列长度固定打包任务。
需要将大规模SFT JSONL打包成WebDataset格式
需要在多节点上并行处理数据打包任务
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill distributed-offline-packing -g -y
分析、调试多GPU训练中LengthPoolSortDataset的跨rank长度同步机制,通过排序和确定性shuffle对齐各卡样本长度,消除梯度同步等待瓶颈,优化训练效率。
分析多GPU训练速度提升原因
调优pool_size参数
排查rank间同步瓶颈
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill length-pool-sort-dataset -g -y
用于验证HuggingFace与Megatron/MCore模型检查点在TP/PP设置下的行为一致性,提供pytest测试套件及反向转换脚本。
需要验证HF和Megatron模型权重是否一致
执行分布式训练后的模型一致性检查
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill llava-onevision2-consistency -g -y
提供 Megatron checkpoint (1D/2D/3D) 布局诊断、设计与转换指南,核心规则为通过是否存在 Expert Parallelism 而非 Pipeline Parallelism 来判断是否为 3D 布局。
排查 Megatron checkpoint 加载或转换错误
设计支持 TP, PP, EP 的模型检查点存储结构
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill megatron-checkpoint-layout -g -y
指导将独立的ViT编码器和LLM合并为统一的LlavaOnevision2 HuggingFace检查点,并验证合并后权重与推理输出的一致性。
需要合并多模态模型组件
验证合并后的模型权重和推理结果
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill merge-ov2 -g -y
指导配置LLaVA-OneVision2训练侧样本packing的环境变量,解释OFFLINE_PACKING_BMR与OFFLINE_PACKED_DATA需同时启用以实现无padding注意力,并澄清废弃的VQA变量。
配置LLaVA-OneVision2训练脚本环境变量
调试训练侧样本packing问题
排查跨样本注意力泄漏
npx skills add EvolvingLMMs-Lab/LLaVA-OneVision-2 --skill offline-packing-env-vars -g -y


