Google DeepMind 发布 Gemma Scope 2，为 Gemma 3 全尺寸模型提供开源可解释性工具

2025年12月19日 责任与安全

语言模型可解释性团队

宣布推出全新的开放式语言模型可解释性工具套件

大型语言模型（LLM）能够展现出令人惊叹的推理能力，但其内部决策过程在很大程度上仍不透明。如果系统未按预期运行，缺乏对其内部运作机制的可见性会使人难以定位其行为的确切原因。去年，我们凭借 Gemma Scope 推进了可解释性科学，这是一个旨在帮助研究人员理解 Gemma 2（我们的轻量级开放模型集合）内部运作机制的工具包。

今天，我们发布 Gemma Scope 2：一套全面的开放可解释性工具套件，适用于所有 Gemma 3 模型规模，从2.7亿到270亿参数。这些工具能够帮助我们在模型的整个“大脑”中追踪潜在风险。

据我们所知，这是迄今为止AI实验室在可解释性工具方面规模最大的一次开源发布。制作 Gemma Scope 2 涉及存储约110 PB的数据，以及训练总计超过1万亿参数。

随着AI持续进步，我们期待AI研究界使用 Gemma Scope 2 来调试新出现的模型行为，利用这些工具更好地审计和调试AI智能体，并最终加速开发实用且稳健的安全干预措施，以应对越狱、幻觉和谄媚等问题。

我们的交互式 Gemma Scope 2 演示现已可供试用，由 Neuronpedia 提供支持。

Gemma Scope 2 的新内容

可解释性研究旨在理解AI模型的内部运作机制和习得算法。随着AI能力日益增强、复杂度不断提高，可解释性对于构建安全可靠的AI至关重要。

与其前身一样，Gemma Scope 2 充当 Gemma 系列语言模型的显微镜。通过结合稀疏自编码器（SAE）和转码器，它使研究人员能够深入模型内部，观察模型在思考什么，以及这些想法如何形成并与模型行为相关联。这反过来又使人们能够更深入地研究越狱或其他与安全相关的AI行为，例如模型所表达的推理与其内部状态之间的差异。

虽然最初的 Gemma Scope 支持了安全领域的关键研究，例如模型幻觉、识别模型已知的秘密以及训练更安全的模型，但 Gemma Scope 2 通过重大升级支持了更为雄心勃勃的研究：

• 大规模全覆盖：我们为整个 Gemma 3 系列（最高270亿参数）提供了一套完整的工具，这对于研究仅在规模上才会出现的新兴行为至关重要，例如此前由27b规模的 C2S Scale 模型所揭示的那些行为，该模型曾帮助发现了一条新的潜在癌症治疗路径。尽管 Gemma Scope 2 并未在该模型上训练，但这是一个示例，说明这些工具或许能够理解这类新兴行为。
• 更精细的工具，用于解读复杂的内部行为： Gemma Scope 2 包含在我们 Gemma 3 系列模型每一层上训练的 SAE 和转码器。跳跃转码器和跨层转码器使解读遍布模型的多步计算和算法变得更加容易。
• 高级训练技术：我们使用最先进的技术，尤其是 Matryoshka 训练技术，它有助于 SAEs 检测出更有用的概念，并解决了在 Gemma Scope 中发现的一些缺陷。
• 聊天机器人行为分析工具：我们还提供了针对聊天用例调优的 Gemma 3 版本的可解释性工具。这些工具能够分析复杂的多步骤行为，例如越狱、拒绝机制和思维链忠实度。