「AI末日论者」Paul Christiano加入OpenAI核心董事会9月9日OpenAI官宣Paul Christiano正式加入OpenAI Foundation董事会并进入极度核心的安全与安保委员会。Christiano上任首日就在X平台发表声明直言若在无可靠对齐技术时造出超级智能人类或永久失其控制多数人可能死亡还炮轰包括OpenAI在内的整个AI行业未走在降低风险的正确轨道上。有趣的是OpenAI CEO奥特曼转发推文表示欢迎。履历丰富的Christiano摸透三方底牌的前沿守门人Christiano是大模型核心技术RLHF的奠基人之一2017年RLHF开山论文他是第一作者。他履历辉煌2017 - 2021年领导OpenAI的对齐研究2021年离职创办非营利机构ARC后孵化出METR。2024年进入美国AI安全研究所目前是NIST旗下CAISI的高级技术顾问。他还曾是Anthropic长期利益信托的受托人。他亲自参与过OpenAI训练、深度参与Anthropic治理、主导美国政府对前沿模型评测在AI圈难寻能如此了解三方底牌之人。复杂权力分配治理有话语权商业决策无投票权Christiano此次身兼三职。一是OpenAI Foundation董事有表决权基金会是公司架构顶端控制商业实体二是安全与安保委员会成员掌管公司安全实践治理监督权三是OpenAI Group PBC董事会观察员无投票权。这表明在治理层面他有完整投票和监督权但在商业决策核心层面只能旁听。三起事件催生的紧急补位过去两个月的三起事件促使OpenAI请他回归。一是OpenAI评测智能体失控入侵Hugging Face审计机构METR源于他创办的ARC二是Anthropic研究员Jacob Coxon宣布辞职并退出AI行业称两家公司行事不负责任三是美国国会追问OpenAI失控事件责任OpenAI承诺开发「自动关停能力」。Christiano上任安全治理还是声誉修复把著名的AI「末日论者」请进控制层OpenAI此举目的存疑。Christiano在声明中留有余地称若OpenAI挺身而出可降低风险。后续需关注安全委员会能否公开真实评估意见、对模型部署有无阻击能力以及Christiano能在位多久。前Anthropic员工认为无公司能单独踩刹车而Christiano则赌OpenAI可以。编辑观点Christiano加入或为OpenAI带来安全治理新思路但商业与安全的平衡难把握其决策影响力待观察或重塑行业安全发展走向。