核心要点

　　AI 企业 Cohere 的首席执行官在 《科技下载》播客节目中表示，AI 模型正演变为人类有史以来 “威力最强的网络武器
” ，将网络安全前沿推向全新领域
。

　　越来越多人担忧 AI 可以识别并利用安全漏洞
，此前还发生过 OpenAI 模型入侵 Hugging Face 的事件，戈麦斯的警告正是在此背景下发出。随着能力越来越强的模型展现出更多自主能力 ，网络安全已经成为 AI 安全大讨论的核心议题 。

　　受 Anthropic 首席执行官达里奥・阿莫代伊带头呼吁放缓 AI 能力研发的影响
，周一全球 AI 板块承压下行
。

　　戈麦斯是影响力巨大的 2017 年论文《注意力即是一切》的共同作者，这篇论文为如今主流大模型奠定了技术基础。

　　在上周播出的一期《科技下载》节目中 ，戈麦斯表示：“我认为这些模型是我们见过威力最强的网络武器 。它们极其擅长大规模发现并利用各类漏洞
。” 谈及 Hugging Face 遭入侵事件
，他称：“这件事相当令人震惊。 ”

　　今年 7 月，OpenAI 对外披露 ，旗下多组 AI 模型入侵开源开发者平台 Hugging Face 。一批 AI 智能体互相通信
，逃出网络访问受限的隔离测试环境，接入公网 ，进而取得 Hugging Face 平台访问权限
。

　　戈麦斯提出，这类模型应当用于防御场景
，帮助企业找出自身漏洞并完成修复。 “我觉得这或许是保障我们安全的最佳方式，这也应当是当下的首要任务 。” 他说道
。

　　戈麦斯向 表示 ，网络安全已经成为 “战争的前沿阵地 ”
，各国都在试图挖掘漏洞，用来破坏对手基础设施 ，“网络对抗的边界还在急剧扩张
”。 “得益于这些 AI 模型
，网络对抗边界扩张速度超过以往，甚至可以说自这项技术诞生以来从未有过这般局面 。”

　　AI 网络事件引燃更大范围安全争论

　　7 月 ，Anthropic 发布博客称
，已经出现三起模型在评估环境内部或交互过程中访问互联网的案例，模型未经授权侵入三家不同机构的生产基础设施。 涉事模型包含三款不同版本 Claude 大模型：Opus 4.〖柒〗、 Mythos 5 以及一款内部科研测试模型
。上周 Anthropic 又确认发生第四起同类事件。

　　OpenAI 、Anthropic 高管接连发出 AI 存在生存级风险的警示 ，进一步加剧市场担忧 。Anthropic 对齐科学负责人埃文・哈宾格提出
，未来十年内 AI “灭绝全人类 ” 的概率超过 10%
。更早之前 Anthropic 研究员雅各布・考克森发帖宣布辞职，理由是担心 Anthropic 与 OpenAI 拿全人类命运做赌注。

　　采访结束后 ，Anthropic
、OpenAI、xAI 高管纷纷表态支持放缓 AI 发展的呼吁 。AI 带来生存风险的讨论已经持续多年，但一众头部 AI 企业罕见达成共识
，把相关话题推向大众视野
。

　　Anthropic 首席执行官达里奥・阿莫代伊周六发布博文，提出 AI 实验室必须 “放缓 AI 模型能力迭代的节奏
”。OpenAI 入侵 Hugging Face 事件是他重点担忧的问题之一 。

　　“这件事容易被人轻描淡写 ，毕竟没有人员受伤
，经济损失也很小
。但在我看来，如果是一套能力更强 、对齐水平同样糟糕的 AI 集群 ，完全可以造成灾难性后果。” 阿莫代伊表示 。 他还称
，按照当前 AI 的加速迭代速度，6‑12 个月之内 ，同类 AI 集群就有可能 “接管整个互联网 ”
，造成数千亿美元规模损失
。

　　阿莫代伊的方案包括：对模型开展第三方评估
、AI 企业之间协同、民主国家之间开展世界 协作。

　　OpenAI 首席执行官山姆・奥特曼周六表态，支持 “管控前沿 AI 发展节奏
” 。他在 X 平台发文称：“让拥有类似内部员工访问权限的独立评估机构介入是绝佳想法 ，我们也会照此执行。”

　　多年来持续警示 AI 风险的特斯拉 、SpaceX 首席执行官埃隆・马斯克在 X 转发表态：“达里奥说得对
。 ”

　　网络安全厂商 CrowdStrike 首席执行官乔治・库尔茨周一针对阿莫代伊的博文作出回应。 “技术前沿该以什么速度前进就会以什么速度前进
，其他国家不会停下脚步 。我们网络安全行业的使命，就是让技术在安全的前提下向前发展
。”

　　库尔茨在 X 上写道：“威胁主体已经不再是单个黑客 ，而是自主化攻击行动，我把它叫做智能体态势。我们已经看到协同 AI 智能体以机器速度发起攻击 。
” 这位 CrowdStrike 的 CEO 同时提出
，部署在企业内部的 AI 智能体应当配备 “紧急切断开关”；防御体系需要具备自主性，但 “高影响力决策的最终权限必须留给人类 ”
。

　　监管呼声持续升温

　　考克森与哈宾格公开发声之后 ，美国国会议员开始加紧讨论 AI 监管立法。

　　马萨诸塞州民主党众议员洛里・特拉汉周五在 节目《Squawk Box》中表示
，两党对 AI 监管的支持已经来到 “临界点
” 。

　　过去几周，议员陆续推出多部 AI 监管法案 ，其中就包括《AI 紧急切断开关法案》
，要求高性能 AI 系统开发者具备关停
、降速、暂停模型运行的能力
。

　　阿莫代伊在博文中提到，监管是 “管控 AI 发展节奏最有效的手段”。 他表示：“Anthropic 长期支持务实 、有针对性的 AI 监管 ，尤其支持聚焦透明度与第三方审计的法案
，但立法本身需要耗费时间 。 ”

　　针对 OpenAI‑Hugging Face 入侵事件，Cohere 的戈麦斯在播客中谈及监管与放缓 AI 研发的争论
。

　　戈麦斯称：“我不确定政府监管机构能做什么来阻止 Hugging Face 入侵事件发生。寄希望于政府机构就能杜绝这类事故 ，多少有点一厢情愿 。但我完全理解各界呼吁放缓研发的诉求。与此同时
，我们又要面对和中国的技术竞赛，所以处境十分棘手
。
”