LLM 系列（七）：数学概念篇

LLM 系列（七）：数学概念篇

摘要

大语言模型的数学基石：线性代数将词语编码为向量，矩阵乘法驱动信息流动；概率论构建预测逻辑，交叉熵损失精准衡量误差；微积分通过梯度下降优化参数，反向传播高效分配权重。词嵌入从静态到动态演进，注意力机制突破序列限制，解码策略平衡创造性与连贯性。数学工具协同塑造AI能力，技术细节直接影响模型表现。