Anthropic推出玻璃翼项目，用AI防护AI网络攻击

亚马逊、苹果、谷歌等公司将使用Claude模型来增强其软件防护能力。

我们经常看到关于人工智能潜在负面影响的担忧报道，特别是它可能在网络安全方面带来的新问题。Anthropic宣布了一项名为"玻璃翼项目"的新倡议，旨在通过"保护全球最关键软件"免受AI驱动攻击来解决这些担忧。该项目的合作伙伴包括亚马逊云服务、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达和帕洛阿尔托网络公司。

参与者将使用Claude Mythos Preview——Anthropic尚未发布的通用模型——来增强自己的安全项目。Anthropic声称该模型已发现数千个可利用的漏洞，"包括所有主要操作系统和网络浏览器中的一些漏洞"。该公司表示希望开始防御性地使用其工具，以防止恶意使用AI可能对经济和安全造成严重后果。

Anthropic已成为在该领域引发伦理关注的知名AI公司之一。今年早些时候，该公司拒绝为五角大楼移除其服务的安全防护措施，这促使国防部对Anthropic实施"供应链风险"制裁作为报复。推出玻璃翼项目可能是在AI时代改善网络安全的有益开端，但一些损害已经造成。据报道，其自身的Claude在二月份被黑客用于攻击墨西哥多个政府机构。

Q&A

Q1：玻璃翼项目是什么？有哪些公司参与？

A：玻璃翼项目是Anthropic推出的AI网络安全防护倡议，旨在保护全球最关键软件免受AI驱动的网络攻击。参与的合作伙伴包括亚马逊云服务、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达和帕洛阿尔托网络公司。

Q2：Claude Mythos Preview模型有什么特殊能力？

A：Claude Mythos Preview是Anthropic尚未发布的通用模型，它已经发现了数千个可利用的安全漏洞，包括所有主要操作系统和网络浏览器中的一些漏洞。参与项目的公司将使用这个模型来增强自己的安全项目。

Q3：Anthropic为什么要推出这个项目？

A：Anthropic希望防御性地使用其AI工具，防止恶意使用AI可能对经济和安全造成严重后果。该公司已成为在AI领域引发伦理关注的知名公司之一，此项目是其在AI时代改善网络安全的重要举措。