淘宝直播数字人LLM推理优化：模型蒸馏与路径压缩实践

淘宝直播数字人 LLM 推理优化：模型蒸馏与路径压缩实践

摘要

本文探讨了智能数字人直播互动的六大核心环节，包括LLM文案生产、LLM互动能力、TTS技术、形象驱动技术、音视频工程和服务端工程。针对直播间弹幕互动的复杂推理问题，提出了基于DeepSeek-R1的蒸馏方案，并通过DP-DPO方法优化推理路径，提升回复速度与质量，最终实现高效稳定的数字人直播服务。