面向春招秋招的大模型面试知识库，用通俗方式讲清 LLM、RAG 和 Agent 核心概念，帮你在面试前快速补齐基础、和面试官聊得起来。
一个简洁但完整的全注意力 Transformer 实现，集成了多篇论文中值得尝试的实验性特性，方便研究者快速试验各种注意力变体。
…idge 的 mlp AR.linear 1/linear 2 。 - 词嵌入、LayerNorm、位置编码、路由逻辑等更敏感的部分则保持 float，不写入 DSQ 快照。 本次更新支持了 Q4 K 、 Q6 K 、 Q8 0 三种精度，覆盖从“极致省显存”到“尽量贴近全精度”的不同使用场景。 新增量化模型 Table 本次新增的量化模