用逆向博弈论约束AI智能体行为的研究探索

2026年11月3日，MIT Technology Review报道，AI对齐研究者开始尝试用“逆向博弈论”（即机制设计）来激励AI智能体遵守规则，而非窥探模型内部或灌输价值准则。报道提到，MIT经济学家Stephen Morris等的预印本论文提出，让模型奖励取决于其答案能否预测第二个模型的输出，可使“故意放水”变成亏本选择；普林斯顿Elad Hazan则设想让模型轮流担任解题者与审计者，并对作弊者和失职审计者同时惩罚。目前这些思路仍处于研究设想与预印本阶段，报道未提及实际部署或验证结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。