把大模型训推优化串起来
为了准备一次组会分享,我从训练与推理的区别讲起,把 FlashAttention、MLA、KDA、KV Cache、模型量化和推测解码串成了一张可以顺着读下去的地图。
输入关键词,或者选一个标签。
为了准备一次组会分享,我从训练与推理的区别讲起,把 FlashAttention、MLA、KDA、KV Cache、模型量化和推测解码串成了一张可以顺着读下去的地图。
从一张捧着花束的毕业照开始,我和 Codex 一起把她做成了会眨眼、挥手、跳跃,也会迈着小碎步穿过屏幕的桌宠。
Halo 很适合拥有服务器的内容站点,但 GitHub Pages 只能托管静态文件。理解边界以后,Astro 成了更稳定的答案。
社交平台让表达变得容易,却也让内容越来越短。重新拥有一个博客,是为长久的思考留下一块不被算法打断的地方。
好主题的价值不只是一套配色。内容层级、阅读节奏和可维护的设计变量,才是它们真正值得借鉴的部分。
从创建 Markdown 文件到本地预览、检查和发布,一份适合这个博客的最短写作流程。
换一个关键词,或者清空当前标签后再试。