Decoding (投机采样)

[!NOTE] 全称：Decoding，中文释义：投机采样。

💡 核心解析

该术语自动提取自深度专栏文章。

🚀 硅基视角

…访问外部内存，能效比提升了惊人的 300%。

硬件级 Speculative Decoding (投机采样)： 天玑 9500 的 APU 790 固化了投机采样算法。它用一个小模型“猜”接下来的 5 个词，大模型只负责“验”。如果猜对了，生成速度直接翻 5 倍。…

本条目由 GJNX AI 引擎自动挖掘并生成，旨在构建《硅基能效通识》知识体系。