跳到正文
HF Daily Papers·· 15 天前AI 评分30

Kronecker Delta 规则用于长上下文线性注意力

Kronecker Delta Rule for Long Context Linear Attention

AI 导读

基于 Kronecker Delta 规则与长上下文线性注意力的 KronLSTM 在长上下文 benchmark 中表现突出,被认为可为 Physical AI 与机器人的长期记忆机制提供更精确高效的架构,下一步将在真实机器人场景中进行验证。

来源:HF Daily Papers · huggingface.co