一位美国官员周二告诉美联社,Anthropic 的一个人工智能模型在测试过程中发现了高度敏感和安全的美国政府计算机系统中的漏洞。

这位不愿透露姓名的官员表示,Anthropic 已与美国情报机构合作,使用该公司的 Mythos 模型进行测试。该官员表示,它在几小时内就发现了某些漏洞,但这并不意味着该模型能够在这段时间内利用它们。

这位官员表示,测试是通过一项名为“Project Glasswing”的人类计划完成的,该计划汇集了科技巨头和其他公司,希望确保世界关键软件免受 Mythos 模型可能对公共安全、国家安全和经济造成的“严重”影响。

所罗门部长确认加拿大现已成为 Anthropic 的 Mythos AI 预览计划的一部分

弗吉尼亚州民主党参议员马克·沃纳 (Mark Warner) 在 6 月 11 日参议院银行、住房和城市事务委员会举行的听证会上简要提到了此次测试。华纳曾表示:“这个工具侵入了我们几乎所有的机密系统,不是在几周内,而是在几小时内。”他将此信息归咎于国家安全局和美国网络司令部负责人约书亚·拉德将军。

美国国家安全局拒绝在电子邮件中就此事发表评论。 Anthropic 发言人也拒绝置评。

尽管 Anthropic 和美国机构最近合作测试漏洞,但这家加州公司和特朗普政府之间的紧张关系仍在加剧。 Anthropic 引起了人们对美国军方将如何使用其人工智能的担忧,而政府则限制了 Anthropic 某些模型的使用。

美国政府本月早些时候发布了一项指令,要求 Anthropic 阻止外国人使用其最新的人工智能模型,即《神鬼寓言 5》和《神话 5》。 Anthropic 本月早些时候广泛发布了《神鬼寓言》。该模型是更先进的 Mythos 的有限版本,由于网络安全担忧,该公司严格限制其访问权限。

该指令是在唐纳德·特朗普总统签署行政命令十天后发布的,该命令旨在为联邦政府建立一个框架,在最先进的人工智能系统公开发布前长达一个月的时间内审查其国家安全风险。该命令称,人工智能开发人员的参与将是自愿的。

Anthropic 表示,为了遵守政府的指令,它为所有客户禁用了这些模型。这家人工智能巨头表示,它认为政府采取的措施并不合理,因为它对潜在的安全问题表示担忧。

人类与特朗普官员正在努力达成协议,恢复《神鬼寓言 5》和《神话 5》

加拿大专家表示,失去对 Anthropic 人工智能模型的访问凸显了依赖美国技术的风险

一群网络安全高管还要求特朗普政府取消其指令,称此举对美国对手的帮助大于伤害。来自 Adob​​e 和 Nvidia 等公司的 100 多名网络安全专家和领导人在一封信中告诉政府,Anthropic 的 Mythos 模型“非常擅长”发现软件缺陷和武器化漏洞,但它们“并不是唯一擅长这些任务”。

这封信的许多签名者表示,他们经常使用其他基金会和开源模型进行安全审计和培训。这封信称,当美国的对手正在迅速推进时,“没有充分理由”就剥夺最好的网络防御能力是危险的。

(这是一个未经编辑的、自动生成的故事,来自联合新闻提要。 八方新聞 工作人员可能没有更改或编辑内容文本。)