在伦敦举行的 Civo Navigate 活动上,一场由 OpenUK CEO Amanda Brock 主持的圆桌讨论,把开源社区在 AI 时代最现实的焦虑摆上了台面:当 AI 代理能轻松生成成千上万行代码,开源维护者正在被「AI 垃圾贡献」淹没。
Isovalent(思科旗下)首席开源官 Liz Rice 以可观测性开源项目 Cilium 为例直言,AI 代理远未准备好成为独立维护者。Cilium 已经制定了一项 AI 政策,核心意思是:你可以借助 AI 工具,但最终必须由人理解自己贡献的内容。Rice 解释,一个修复补丁本身可能很好,但社区更看重长期培养真正读懂代码、未来愿意接手项目的人。
这种压力并非孤立现象。Rice 指出,如今漏洞往往在 IT 行业正式知晓之前就已被利用,传统的「打补丁」思路不再够用,这也是她力推运行时安全的原因——在漏洞被利用到补丁铺开之间的窗口期,需要运行时缓解和护栏。
Jetstack 总裁兼联合创始人 Matt Barker 则把焦点放在企业与超强 AI 之间的连接安全上。他认为,前沿实验室大概率希望掌控企业所有的连接通道,但企业需要的是选择权:模型会形成长尾,有微调的、更小的、开源的,也有专有的,企业必须为手头任务挑选合适模型。他鼓励企业掌握自己的连接器,并利用 Anthropic 创建并捐给行业的开放 Model Context Protocol(MCP)标准,把 API、技能、指令、权限和身份整合起来,让代理安全有效地使用数据。
讨论也触及地缘政治对开源的冲击。OpenUK 的 Brock 提到,Anthropic 曾在 6 月为遵守美国政府出口限制,临时暂停其 Claude Fable 和 Mythos 模型的全球访问。开源专家、前 Google Cloud 工程师 Kelsey Hightower 表示,美国大型 AI 实验室对来自中国的开放模型感到担忧可以理解,但这把双刃剑同样值得反思:如果因为模型来自他国就怀疑,那么反过来,美国对其他国家也是「外国」。
Rice 补充说,无论叫真开源模型还是开放权重模型,猫已经出了袋子,世界上存在美国前沿实验室之外的替代选项,在有一定安全护栏的前提下,这并非坏事。
Hightower 还点出了 AI 模型与传统软件的根本差异:Linux 内核、Web API、Jira 的功能边界清晰,而模型是第一批「人们说不知道它做什么,恰恰是它的特性」的软件。它既可能被用来制造恶意软件,也可能用于攻克癌症,一次错误的查询就可能造成重大伤害,平衡使用是巨大挑战。
对于开源的未来,Hightower 的态度谨慎而务实:如果每次推送开源项目都要被试图劫持项目的 AI 代理轰炸,开发者可能不再愿意参与。人类仍会分享,但形态或许大不相同。Rice 则把问题推向更远处——当更多代码由 AI 代理编写,它们会不会选择用开源来解决问题?她提到 OpenAI 攻击 Hugging Face 的事件,显示代理之间已能协作解题,这本身就是一个值得警惕的信号。