知鸦日报2026-08-01

Kimi K3通过混合注意力机制（KDA与MLA）解决长上下文内存瓶颈，用固定大小的状态替换不断增长的KV缓存，实现2.8万亿参数下高效推理。其设计证明，选择性遗忘能让超大模型在长任务中保持性能与成本优势。

AI Coding已解决生码问题，但研发效率未同步提升，瓶颈在编码外的验证与环境。应放弃优化生成能力，转而构建可验证的内部环境，让AI自主获取反馈信号。环境投入是复利，模型越强，价值越大。

上下文工程的核心是减少硬性规则，让模型自主判断。Anthropic 删除了Claude Code中80%的提示词，性能未降。新实践强调：用目标和判断依据替代规则堆叠；设计模型能直接理解的接口；按需加载信息；用可执行代码替代文字描述。好的上下文工程常是做减法。