HF Daily Papers·· 7 天前精选AI 评分57
SimpleLoRIF 通过梯度对齐将 LLM 安全退化追溯至训练数据
Follow the Gradient: Tracing Safety Degradation Back to Training Data
AI 导读
论文提出 SimpleLoRIF，以梯度对齐筛除会静默削弱 LLM 安全性的指令微调数据，并发布移除最相关 20% 样本的 SafeTulu。该方法将反向传播限制在最后 4 个 Transformer blocks，可处理约百万规模的数据集，并在涌现性失配实验中取得最高 0.865 的梯度空间 AUC。
推荐理由
论文将梯度归因扩展至百万级训练数据过滤，并以跨模型攻击成功率下降和能力保持结果比较筛选效果。
来源：HF Daily Papers · huggingface.co