意库资讯网 意库资讯网

当前位置: 首页 » 热门动态 »

OpenAI收购Promptfoo以保障AI智能体安全

OpenAI周一宣布已收购AI安全初创公司Promptfoo,该公司成立于2024年,专门保护大语言模型免受在线攻击者威胁。

这家前沿实验室在博客文章中表示,一旦交易完成,Promptfoo的技术将被整合到OpenAI Frontier中,这是其面向智能体的企业平台。

独立AI智能体的发展能够执行数字任务,这让人们对生产力提升充满期待。但这也为恶意行为者提供了新的机会来访问敏感数据或操控自动化系统。这笔交易凸显了前沿实验室正在争先证明其技术可以在关键业务运营中安全使用。

Promptfoo由Ian Webster和Michael D'Angelo创立,开发供企业用于测试大语言模型安全漏洞的工具,包括开源接口和库。该公司报告称,其产品已被超过25%的财富500强企业使用。

根据Pitchbook数据,Promptfoo自成立以来仅融资2300万美元,在2025年7月最近一轮融资后估值为8600万美元。OpenAI未披露此次交易的具体金额。

OpenAI在公告中表示,Promptfoo的技术将使其智能体平台能够执行自动化红队测试,评估智能体工作流程的安全隐患,并监控活动以识别风险和合规需求。该公司还表示,预计将继续构建Promptfoo的开源产品。

Q&A

Q1:Promptfoo是什么公司?主要做什么业务?

A:Promptfoo是一家AI安全初创公司,成立于2024年,专门开发保护大语言模型免受在线攻击者威胁的工具。该公司开发供企业用于测试大语言模型安全漏洞的工具,包括开源接口和库,目前已被超过25%的财富500强企业使用。

Q2:OpenAI为什么要收购Promptfoo?

A:随着独立AI智能体发展,虽然带来了生产力提升的期待,但也为恶意行为者提供了访问敏感数据或操控自动化系统的新机会。OpenAI收购Promptfoo是为了证明其技术可以在关键业务运营中安全使用,加强AI智能体的安全防护能力。

Q3:收购完成后Promptfoo的技术会如何应用?

A:一旦交易完成,Promptfoo的技术将被整合到OpenAI Frontier企业平台中,使其智能体平台能够执行自动化红队测试,评估智能体工作流程的安全隐患,并监控活动以识别风险和合规需求。OpenAI还将继续构建Promptfoo的开源产品。

未经允许不得转载: 意库资讯网 » OpenAI收购Promptfoo以保障AI智能体安全