基于安全强化学习的人类反馈对齐框架，通过约束优化让大模型在有用性和安全性之间取得平衡，附带 Beaver 系列模型与数据集。

收集大模型越狱攻击的前沿论文、代码、数据集与评测分析，帮安全研究者快速跟进 LLM 与多模态模型的攻防进展。

系统梳理大模型有害微调攻击的综述，汇总攻击与防御方法，帮安全研究者快速掌握微调带来的对齐失效风险。

大模型安全、安保与隐私方向的论文阅读清单，汇总对抗攻击、越狱、隐私保护等研究，帮研究者快速定位 LLM 与多模态模型安全领域的核心文献。