跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

最新精选

第 21–21 条 · 共 21 条
2月1日周四
  1. Hugging Face Blog66

    Hugging Face 发布开源大模型 Constitutional AI 端到端配方

    Hugging Face 公开了一套用开源模型做 Constitutional AI 的端到端配方,覆盖自我批判、修订、SFT 与 DPO 全流程,并发布了 Anthropic constitution 与 Grok 风格两个版本的 CAI 数据集,以及基于 Mistral-7B 的 DPO/SFT 模型。

    推荐理由:Hugging Face 公开了一套在开源模型上做 Constitutional AI 的完整配方,包括数据集、模型与集群推理工具,便于复现细粒度对齐。