从公开研究文献出发，用第一性原理复现 Claude Mythos 架构的理论实现，供研究者拆解其注意力机制与模型设计思路。
在 Apple Silicon 上做 W8A8/W4A8 量化推理，调用 M5 闲置的 INT8 TensorOps 让 LLM prefill 快 1.2–1.9 倍，并用类 FlashInfer 的 GQA 解码注意力加速 SDPA。
What's Changed [Perf] Admit the 24/8/128 bs16 GQA decode geometry by @surucuonur in https://github.com/vllm-project/vllm-metal/pull/1291 Full Changelog : https://github.c
细节与修复 - 修复麦麦尾巴叶子数量异常 - 注意力漂移：群聊与私聊可分别配置开关。 - Docker：恢复旧 WEBUI HOST 环境变量兼容。 WebUI [1.9.12] - 实时监控：Planner 展示模型思考。 - 聊天：悬停聊天流可查看表达与黑话的学习/使用开关、当前回复频率、运行状态和最近消息。 - 插件设置：支持 SD
…. - Implements dense Qwen3.5 normalization, gated GQA/GDN scheduling and native dense MLP prefill/decode. Adds H=48 FLA sidecars across Ampere through Blackwell and corre
…): 64-row KV tile per CTA (M=64 TMEM layout) with GQA, varlen and deterministic support by @Johnsonms in https://github.com/Dao-AILab/flash-attention/pull/2965 [Tests] CU
…lashAttention prefill/decode，覆盖 fp32/bf16 storage、GQA、attention mask 和 KV cache，通过分块计算、online softmax、向量化矩阵乘及 packed cache 复用，减少完整 attention score 中间张量和 decode 重复打包。 - 重构
…ed so the PyPI upload can run. What's Changed Fix GQA past-KV test fixture for ORT 1.31 length checks by @take-cheeze in https://github.com/onnxsim/onnxsim/pull/2132 Bump