Benign Outliers 對 Twinkle AI 模型安全對齊之影響研究

你以為「乾淨」的微調資料就是安全的嗎？最新研究指出，僅僅 100 筆來自 Dolly、Alpaca 這類良性資料集的樣本——表面無害、卻帶有有害梯度方向的 Benign Outliers——就足以讓一個對齊過的 LLM 安全防線全面崩潰，而且完全不需要外部惡意資料當錨點。 本場分享將以 Twinkle AI 開源的 gemma-3-4B-T1-it 為實驗對象，帶大家走過一次真實的攻擊與防禦：如何用 Self-Inf-N 從繁中良性資料中挖出這些「隱形地雷」、它們在連續學習場景下有多難消除，以及 SafeGrad、AsFT 這類梯度約束防禦方法到底擋不擋得住。 適合對 LLM 安全、微調、開源模型治理有興趣的開發者與研究者。