youtube/static-constraint-decoding

STATIC是一个用于大型语言模型约束解码的高性能框架，通过稀疏矩阵优化的字典树索引确保模型输出符合预设的序列集合，专为GPU和TPU等硬件加速器设计。