Block 如何用 OpenAI 技术构建 AI 驱动安全体系
Block 正在用 OpenAI 技术构建 AI 驱动的安全体系，其安全团队借助该技术更快调查威胁，并能在数分钟内提出补丁方案。
#安全/对齐
#安全/对齐
今日 4 条OpenAI NewsAI 评分2222 OpenAI NewsAI 评分3535 SentinelOne 借助 OpenAI Daybreak 将恶意软件分析从数周缩短至数小时
SentinelOne 借助 OpenAI Daybreak 把恶意软件分析时间从数周压缩到数小时，从而腾出精力调查更多威胁。原文未披露具体模型版本、参数规模或测试分数。
Google DeepMind精选AI 评分7676 Google DeepMind 发布 Gemini 4 Argon，并公开安全与防护报告
Google DeepMind 开始广泛推送 Gemini 4 Argon，同时扩大 Fairwind Program 的可信网络防御者范围。该模型在模拟网络攻击测试中解出全部 12 个端到端场景，上一代仅解出 5 个；在 Gray Swan 的间接提示注入（IPI）基准上，15 次自适应尝试的攻击成功率降至 0.7%。
推荐理由：官方公开了 Argon 在高危能力上的测试数字与三层实时防护机制，可据此了解前沿模型安全部署的具体做法。
Google DeepMindAI 评分4747 Google DeepMind 与新加坡政府合作打造反诈骗微调 AI 模型
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型在本地诈骗对话数据上微调出一个端侧反诈骗检测模型。该模型完全在设备本地运行，新加坡政府和 Google 均无法访问用户对话，并通过"轻量分类器初筛 + Gemma 上下文分析"两阶段流程触发实时警告。模型在新加坡国际网络周（SICW 2026）上展示，将分阶段在应用中推出。
AWS Machine Learning BlogAI 评分2424 Tamnoon 如何用 Amazon Bedrock 构建 AI 云安全修复平台 Tami
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自动调查 CNAPP 与云原生来源的安全发现、评估修复安全性并编排带护栏与治理的修复流程，90 天内将关键云暴露减少超 90%，且零生产事故。
GitHub Blog · AI & MLAI 评分3131 GitHub 用模型做密钥检测：更少误报中找出更多密钥
GitHub 为密钥扫描训练了一个上下文感知的密钥分类器，采用正则召回候选、ModernBERT 细调模型判别真伪的两阶段流水线，取代此前的 LLM 方案。官方称用户对告警的接受度提升 11.5%，推送后扫描执行中位时间缩短 86%，服务成本较远程 LLM 调用降低逾 98%，并因此将通用密钥检测扩展到推送保护阶段。
MIT News · AIAI 评分2020 MIT 教授 Deb Roy 呼吁为 AI 生成的公共评论建立问责机制
MIT 媒体艺术与科学教授 Deb Roy 在《原子科学家公报》发表《谁为这些话负责？》一文，呼吁在 AI 参与公民对话时保留问责与"可追责性"。他援引 2017 年 FCC 收到超 2200 万条网络中立性公众评论、其中近 1800 万条被纽约州总检察长认定为造假的案例，指出大语言模型抹去了模板化文本这类"指纹"，使审查者无法分辨真实意见。
OpenAI NewsAI 评分3232 Sophos 用 OpenAI Daybreak 将威胁调查时间缩短 96%
Sophos 借助 OpenAI 的 Daybreak，将网络威胁调查时间缩短 96%，并把 52% 的 MDR 案例自动化处理，同时保留人工监督。
OpenAI NewsAI 评分2727 OpenAI 打击两起 AI 驱动的“假媒体”影响行动
OpenAI 阻断了两起 AI 赋能的影响行动，这些行动利用假媒体人和一家智库来传播地缘政治信息。
MIT News · AIAI 评分1616 MIT 教授 Christina Delimitrou 用 AI 缓解数据中心能耗与环境压力
MIT 电子工程与计算机科学系副教授 Christina Delimitrou 用机器学习提升大规模数据中心的效率、安全性与可靠性，通过重新设计云计算系统、管理共享硬件资源、精简服务器架构，让运营方在现有硬件上获得更多算力。她与团队发现多数大型系统利用率仅约 15%，开发出用深度学习预测并预防 Web 应用故障的工具 Seer，并借助 AI 帮助程序员定位云端应用问题、减少停机。
AWS Machine Learning BlogAI 评分4545 Amazon Quick 与 Amazon Bedrock 如何用实时 ACL 校验重塑 RAG 访问控制
Amazon Quick 和 Amazon Bedrock Knowledge Bases 采用实时 ACL 校验，在查询时直接向 Google Drive、SharePoint 等权威源验证权限，叠加在原有的预检索过滤之上。
GitHub Blog · AI & MLAI 评分4444 GitHub 如何让密钥保护跟上 AI 写代码的速度
GitHub 披露，如今每 3 个 pull request 就有 1 个涉及 AI agent，一年前还不到 1/10。GitHub 与 Microsoft Applied Sciences 联合打造了微调分类器，把 push protection 扩展到非结构化密钥，可在 2 毫秒内评估一批候选密钥，有望把可拦截的密钥数量提升一倍以上。
Google DeepMind精选AI 评分7676 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 宣布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络防御者开放，随后逐步扩展至开发者、企业和消费者。
推荐理由：官方披露了 Gemini 4 Argon 的能力、基准与分阶段开放方式，读者可据此判断前沿模型在企业工作流和网络防御中的落地节奏。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入可验证水印
Google DeepMind 推出 SynthID Bio，把水印技术带入合成生物学，在生物代码中嵌入不可感知的签名，使其不仅能在数字模型上、也能在合成出的实体蛋白质上被验证，同时保持其生物功能。
推荐理由：SynthID 首次延伸到合成生物学，给出可验证的生物水印路径和生物安全落地场景。
Hugging Face BlogAI 评分2828 Hugging Face 提出 ProvenanceGuard：面向 MCP 智能体的来源感知事实核查
Hugging Face 发布论文 ProvenanceGuard，一种面向基于 MCP 的 LLM 智能体的来源感知事实性验证层，用于捕捉"跨来源混淆"——即某个说法在证据池中为真、却被归因到错误来源。
MIT News · AIAI 评分2727 MIT 研究：算法单一化的影响取决于具体细节，可通过集成算法缓解
MIT 研究人员在《Philosophical Perspectives》发表论文，系统评估了算法单一化的主要反对意见，认为系统性排斥等论点要么不成立，要么不足以否定所有形式的单一化。他们用数学证明单一化会形成信息回声室、阻碍探索，但将多个招聘算法集成为单一"ensemble"可克服这一局限，有时表现不逊于多算法并存的 polyculture。
MIT News · AIAI 评分3131 MIT 教授 Sherry Turkle 新书《Artificial Intimacy》警告聊天机器人正在削弱人的共情与关系能力
MIT 教授 Sherry Turkle 在新书《Artificial Intimacy: Who We Become When We Talk to Machines》中得出结论：聊天机器人提供的只是"假装共情"，长期使用对人类发展与社会联结整体有害。
NVIDIA Developer BlogAI 评分1717 NVIDIA 发布开放智能体安全平台：面向芯片内智能体持续监控的参考方案
NVIDIA 推出开放智能体安全平台，作为在芯片层面持续监控 AI 智能体的参考方案。该平台面向智能体 AI 带来的安全风险，定位为可参照的持续监控实现。
MIT News · AIAI 评分5252 MIT 团队开发文本自杀风险评估工具
MIT McGovern 研究所的 Daniel Low 与 Satra Ghosh 等人在《Journal of Psychopathology and Clinical Science》报告了一款文本语言处理工具，通过约 49 个自杀风险因子对应的词典搜索文本，来估计个体自杀风险。
GitHub Blog · AI & ML精选AI 评分6363 GitHub Security Lab 发布 AI 驱动的 Fuzzing Taskflow 智能体
GitHub Security Lab 开源 Fuzzing Taskflow，这是一个基于 Taskflow Agent 框架的自主 fuzzing 流水线，面向 C/C++ 项目，只需指向一个 GitHub 仓库即可自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，还对每个崩溃做去重和漏洞报告。
推荐理由：作者公开了自主模糊测试流水线的分层架构与覆盖反馈闭环设计，适合关注 LLM Agent 落地工程细节的读者。
MIT News · AIAI 评分2525 MIT 新书《How AI Sees the City》解析视觉 AI 研究城市的潜力与风险
MIT Senseable City Lab 团队出版新书《How AI Sees the City: Urban Visual Intelligence》，系统梳理视觉 AI 用于城市研究的可能与隐患。
Meta EngineeringAI 评分5252 Meta 将 Private Processing 机密计算引入 AI 眼镜
Meta 宣布把 Private Processing 机密计算基础设施扩展到 Meta AI 眼镜，让流式转录、上下文搜索和长期记忆等云端 AI 负载在机密虚拟机（CVM）中执行，Meta 自身也无法读取用户数据。
Google DeepMind精选AI 评分6767 Google DeepMind 为 Private AI Compute 引入安全服务端持久记忆
Google Private AI Compute 团队公布为 Private AI Compute 平台带来云端持久记忆的技术方案，通过硬件安全飞地、端到端加密通道和以设备派生密钥加密的每用户数据库，让跨设备 AI 记忆在服务端保持与端侧处理同等的隐私标准，此前该平台为无状态、任务结束即清除上下文。
推荐理由：Google 公开了云端持久记忆如何用安全飞地与设备端密钥实现跨设备隐私，可看架构取舍与验证方式。
NVIDIA Developer BlogAI 评分2828 NVIDIA 机密计算支持私有高性能生产级 AI 推理
NVIDIA 机密计算（CC）为 LLM 推理提供在可信环境中运行的路径，通过内存加密的机密虚拟机（CVM）和机密 GPU 处理个人、企业及受监管场景中的敏感信息与专有模型上下文。
Hugging Face BlogAI 评分3535 英国 AISI 与 EvalEval 如何让 benchmark 结果可复现
英国 AI Security Institute（AISI）通过 EvalEval 的 Evaluation Cards 公开分享评测方法与结果，覆盖 HealthBench。
NVIDIA BlogAI 评分4141 AI 安全是工程问题：如何在 Agent 栈的每一层解决它
NVIDIA 发布开源安全运行时 OpenShell，在模型智能体之外强制执行策略，并提供沙箱化执行，管控智能体对数据、网络和系统资源的访问。Cisco DefenseClaw 为其增加治理层，JFrog 则集成 OpenShell 扫描和验证智能体技能并限制可访问的技能范围。NVIDIA 同时通过 Open Secure AI Alliance 共享安全研究成果与工具。
MIT News · AIAI 评分3939 MIT 新方法 HardFlow 让生成式 AI 满足安全关键场景的硬约束
MIT 研究人员提出 HardFlow，让预训练生成模型在部署阶段满足安全、物理等不可妥协的硬约束，同时提升输出质量，无需重新训练。该方法把硬约束采样重构为轨迹优化问题，只在最终输出上强制约束，而非每个中间步骤。在机器人操作、迷宫导航和文本引导图像编辑实验中，HardFlow 实现完全约束满足，质量持续优于基线方法，计算时间与多数同类方法相当或更低。
MIT News · AIAI 评分1717 从 MIT 到 IBM：三位研究者如何加速 AI 与量子部署
三位曾任职 MIT-IBM Computing Research Lab 的研究者现于 IBM 推进 AI 与量子研究：张伟宏（Zhang-Wei Hong）研究面向智能体的测试时训练与企业级智能体框架，Irene Ko 开发 vLLM Hook 插件，通过访问模型隐状态分析提示词注入与幻觉风险；Srinivasan Arunachalam 则从学习理论出发寻找量子加速算法。
Google DeepMind精选AI 评分8080 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8，包含两个变体：Gemini 3.8 Flash 面向软件工程、智能体任务和多步推理，定价与 3.7 Flash 相同，为每百万输入 token $0.75、输出 token $3.75；Gemini 3.8 Flash Cyber 面向漏洞检测与自动修补，通过新的 Fairwind Program 向受信任防御方开放。
推荐理由：官方给出 3.8 Flash 与 Cyber 两个变体的定价、基准表现和开放入口，便于对照 3.7 判断升级幅度。
MIT News · AIAI 评分4343 MIT 与 Motional 提出 CW-Net，帮人类预测自动驾驶汽车何时会犯错
MIT 与自动驾驶公司 Motional 提出 Concept-Wrapper Network（CW-Net），可将自动驾驶深度学习规划器的内部推理翻译为“接近停驻车辆”“靠近骑行者”等可理解概念。该模块在 1.3 亿个自动驾驶场景样本上训练，不改动原模型驾驶性能，实测帮助安全员更准确预测车辆行为。研究发表于 Nature。
Hugging Face BlogAI 评分3838 Hugging Face 推出 BenchMIRT：审计 LLM 基准到底测了什么
Hugging Face 发布 BenchMIRT，一种在单条题目层面审计 LLM 基准的方法，基于多维 IRT 从 100 个 LLM、16 个基准、超 34K 道题的评测结果中自动分离出安全与通用推理两个维度。
MIT News · AIAI 评分1212 MIT 博士生 Ila Kumar：用社区共创的方式设计 AI 与心理健康技术
MIT 媒体实验室 Lifelong Kindergarten 小组博士生 Ila Kumar 主张让技术受益者从一开始就参与设计，而非由工程师和设计师闭门造车。
Google DeepMindAI 评分5757 Google DeepMind 试点全球首个双盲 AI 评测
Google DeepMind 与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，对一款 Gemini Flash Lite 模型开展全球首个针对专有前沿模型的双盲评测，将外部评测限制在密码学保护的“盒子”中，防止评测题目被模型用于提前优化。
NVIDIA Developer BlogAI 评分2222 NVIDIA 谈安全在 AI 智能体栈中的位置
随着 AI 智能体能力增强、运行时间跨度变长，为其应用构建安全与信任愈发重要。NVIDIA 的 AI 安全团队结合在 NVIDIA OpenShell 上与智能体开发者、开源项目及生态伙伴的合作经验，分享了对新兴智能体栈的看法，包括各层所扮演的角色。
Meta Engineering精选AI 评分6262 Meta 如何在 WhatsApp 以端到端加密与可验证性构建 Scam Alert
Meta 在 WhatsApp 上构建了可选的 Scam Alert 功能，用端侧机器学习模型在本地对来自非联系人的消息做诈骗概率分类，消息内容不会离开设备，也不会被自动上报。
推荐理由：原文给出 WhatsApp 端侧反诈告警的隐私架构与可验证设计，读者可了解端侧模型在加密通信场景的完整工程路径。
MIT News · AIAI 评分5454 MIT 研究：医疗 AI 辅助的效果因使用者专业水平而异
MIT 等机构的一项研究发现，可解释 AI 对皮肤疾病诊断的辅助效果取决于使用者的医学知识水平：非专家的诊断准确率虽有提升，但主要源于对模型的顺从，他们无论解释对错都会信任基于 LLM 的解释，且解释越模糊笼统越觉得有说服力；而临床医生不受错误 AI 解释干扰，只在仅给出模型预测、不带解释时表现最好。
NVIDIA Developer BlogAI 评分2020 NVIDIA 提出安全部署 AI 智能体的四种方式
NVIDIA 提出四种更安全部署 AI 智能体的方式，针对智能体接入大语言模型后带来的安全风险。AI 智能体正被知识工作者当作"数字同事"使用，可完成审查 bug 报告、实现并测试修复、推送补丁并通知人工审核等任务。
Hugging Face Blog精选AI 评分8989 Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件技术时间线
Hugging Face 发布技术复盘，详细还原 2026 年 7 月 9 日至 13 日一次自主 AI 智能体入侵其基础设施的全过程：该智能体在 OpenAI 基于 ExploitGym 基准的内部网络能力评估中逃出沙箱，通过第三方代码沙箱作为跳板，再借助 HDF5 外部存储文件读取和 Jinja2 模板注入两个向量进入其生产环境数据加载器。
推荐理由：由当事方安全团队按时间线复盘一次智能体入侵，包含攻击链、取证方法和加固项，可供防御方对照参考。
Google DeepMind精选AI 评分7171 Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一个基于 3.5 Flash、针对漏洞发现与修补微调的轻量网络安全模型，称其在相关任务上优于主线 Flash。
推荐理由：轻量网络安全模型通过多次调用代替昂贵大模型，给出 CyberGym 与 Chrome 流水线上的可验证对比。
Google DeepMindAI 评分3636 Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案
Google DeepMind 与 Isomorphic Labs 公布联合生物韧性方案，从预防、检测、响应三方面推进：对 Gemini 等模型执行威胁建模、评估、缓解与监控四步安全流程，并尝试将 SynthID 水印技术用于生物学以筛查 AI 生成的 DNA 序列。