跳到正文

#安全/对齐

今日 2 条
今天10月15日周四
  1. Google DeepMind76

    Google DeepMind 发布 Gemini 4 Argon,并公开安全与防护报告

    Google DeepMind 开始广泛推送 Gemini 4 Argon,同时扩大 Fairwind Program 的可信网络防御者范围。该模型在模拟网络攻击测试中解出全部 12 个端到端场景,上一代仅解出 5 个;在 Gray Swan 的间接提示注入(IPI)基准上,15 次自适应尝试的攻击成功率降至 0.7%。

    推荐理由:官方公开了 Argon 在高危能力上的测试数字与三层实时防护机制,可据此了解前沿模型安全部署的具体做法。

10月7日周三
  1. TechCrunch · AI58

    Musubi 开源决策模型 PolicyLM-1.7B,用于实时内容审核

    Musubi 发布开源权重的轻量决策模型 PolicyLM-1.7B,面向实时内容审核,可将纯英文撰写的内容政策应用到消息上,耗时低于 50 毫秒。该模型成本与速度接近多数社交平台使用的 AI 分类器,但具备现代 LLM 的灵活性,可在无需专门训练的情况下执行复杂政策,政策变更时也不必重新训练。

10月6日周二
10月2日周五
10月1日周四
  1. Google DeepMind76

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 宣布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络防御者开放,随后逐步扩展至开发者、企业和消费者。

    推荐理由:官方披露了 Gemini 4 Argon 的能力、基准与分阶段开放方式,读者可据此判断前沿模型在企业工作流和网络防御中的落地节奏。

9月3日周四
  1. Google DeepMind80

    Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber

    Google DeepMind 发布 Gemini 3.8,包含两个变体:Gemini 3.8 Flash 面向软件工程、智能体任务和多步推理,定价与 3.7 Flash 相同,为每百万输入 token $0.75、输出 token $3.75;Gemini 3.8 Flash Cyber 面向漏洞检测与自动修补,通过新的 Fairwind Program 向受信任防御方开放。

    推荐理由:官方给出 3.8 Flash 与 Cyber 两个变体的定价、基准表现和开放入口,便于对照 3.7 判断升级幅度。

7月17日周五
6月5日周五
12月23日周二
  1. Hugging Face Blog42

    Hugging Face 发布 AprielGuard:面向现代 LLM 系统的安全与对抗鲁棒性护栏模型

    Hugging Face 推出 AprielGuard,一个 8B 参数的安全护栏模型,可检测 16 类安全风险与提示注入、越狱、记忆投毒、多智能体攻击等对抗攻击,并覆盖工具调用和推理链等智能体工作流场景。该模型支持推理与非推理两种模式,兼顾可解释分类与生产环境的低延迟需求。

12月16日周二
  1. Google DeepMind60

    Google DeepMind 发布 Gemma Scope 2,为 Gemma 3 全尺寸模型提供开源可解释性工具

    Google DeepMind 发布 Gemma Scope 2,一套覆盖 Gemma 3 全部模型尺寸(270M 至 27B 参数)的开源可解释性工具套件。该套件结合稀疏自编码器(SAE)与 transcoder,并新增 skip-transcoder、Cross-layer transcoder 和面向聊天版本的分析工具,可研究越狱、拒绝机制和链式推理忠实度等行为。

    推荐理由:Gemma Scope 2 覆盖 Gemma 3 全尺寸并升级稀疏自编码器工具,可了解开源可解释性工具的规模与方法变化。

4月29日周二
7月31日周三