LLM 推测解码的多层隐藏状态选择：基于信息熵与 CKA 的分析框架

研究者提出一套基于信息量（矩阵熵）与多样性（CKA）的多层隐藏状态选择框架，用于优化推测解码中的层选择策略。该框架引入 token-entropy 过滤和熵/CKA 层选择算法，在 EAGLE3 风格的推测解码中，所选层集优于默认的 [2, N//2, N-3] 等固定规则，同时为理解 LLM 解码器隐藏状态的几何与信息结构提供了实用分析工具。