意库资讯网 意库资讯网

当前位置: 首页 » 热门动态 »

智能体批量上岗 需“以模治模”完善内生安全

(图片来源:摄图网)

(记者 陈洲)近日,在中国通信学会统筹组织下,中国信通院联合天翼云、移动云、联通云等头部云服务商,共同编制完成《云上智能体服务网络和数据安全(885942)自律公约(2026版)》(以下简称《自律公约》)。作为行业首部针对云上智能体的安全自律文件,《自律公约》的发布为云上智能体安全发展划定底线、明确准则,推动人工智能创新应用实现高质量发展与高水平安全的良性互动。

当前,以Token为核心的词元技术深度融入生产生活,从智能助手、政务服务到工业控制、医疗健康,词元驱动了智能体应用全面落地,其安全平稳运行已成为关乎产业可持续发展与社会公共安全的核心议题。

智能体批量上新 安全风险加速凸显

当前,以OpenClaw为代表的智能体技术迎来爆发式增长,全球掀起“养龙虾”热潮,我国已成为全球OpenClaw部署数量最多的国家。截至2026年4月15日,互联网暴露的OpenClaw实例超14万个。国内主流云服务商推出的智能体“一键部署”服务,大幅降低应用门槛,推动智能体批量上新、快速普及,但与此同时,智能体的上新速度远超安全防护能力建设速度,安全短板日益凸显,成为制约行业健康发展的关键瓶颈。

国家信息安全漏洞库(CNNVD)数据显示,2026年4月14日至28日仅两周时间,就采集到OpenClaw相关漏洞111个,其中超危漏洞2个、高危漏洞38个,涵盖访问控制错误、代码问题、路径遍历、权限提升等多个类别。这些漏洞一旦被利用,可能导致智能体越权操作、核心数据泄露、系统被恶意控制等严重后果,威胁企业业务与用户信息安全。更值得警惕的是,AI技术普及重塑了网络攻防格局,攻击成本呈指数级下降、攻击能力呈倍数级提升,传统基于规则、依赖人工的安全防护思维已难以应对新型威胁。

源头治理破局 以AI之盾抵御AI之攻

面对“用AI发起攻击”的新挑战,防御手段必须跳出传统思维,实现同步升级、主动防御。中国电信、中国移动、中国联通三大运营商作为数字信息基础设施建设的主力军,给出了共同答案:用AI对抗AI、用AI管理AI,以技术创新构建智能体安全防护新体系,从源头化解安全风险。

用AI对抗AI,构建智能化主动防御体系。运营商依托自身云网融合优势,将AI技术深度融入安全防护全流程,打造“感知-决策-执行”闭环的智能对抗能力。

中国电信推出的智能体安全管家,被喻为“龙虾保镖”,可实现毫秒级拦截AI越权操作,当智能体接收“删除所有文件”等高危指令时,能立刻阻断执行;针对提示词注入、恶意插件调用等隐蔽攻击,通过AI行为建模分析,精准识别业务意图与实际行为的偏离,无需人工干预即可自动阻断风险操作,误报率低、适配范围广。

中国移动、联通云研发了各自的AI安全防护平台,利用机器学习实时分析智能体运行日志、网络流量、API调用行为,构建动态安全基线,快速识别异常活动;通过对抗训练技术,在模型训练中主动注入对抗样本,提升智能体面对恶意扰动的鲁棒性,增强自身抗攻击能力。

用AI管理AI,实现全流程安全可控。针对智能体部署分散、运维复杂、风险难控等问题,运营商搭建AI驱动的智能体管理平台,实现对云上智能体的统一纳管、动态监测、合规审计。部署环节,严格落实镜像安全检测、运行环境隔离、权限最小化管控,仅提供官方渠道最新稳定版本,关闭非必要互联网访问端口,从源头减少攻击面。运行环节,利用AI实时监测智能体行为,记录完整操作日志与“思维链”,实现行为可追溯、风险可预警;定期开展安全扫描、漏洞检测与行为审计,及时处置安全隐患。数据环节,构建全链路数据安全保障体系,提供数据传输存储加密、敏感数据安全存储、外发监测阻断等服务,防范数据泄露与滥用风险。三大运营商通过“技术防护+智能管理”双轮驱动,将安全能力嵌入智能体全生命周期,实现从“事后处置”向“事前预防、事中管控”的转变,筑牢安全防线。

强化标准引领 构建协同共治产业生态

当智能体应用从概念验证走向大规模部署,行业亟需一套共同的规则和底线,明确安全责任、规范技术应用、统一防护要求,为产业健康发展提供制度保障。《自律公约》的发布,正是行业强化标准引领、推进协同共治的重要举措,为云上智能体安全发展提供了行为准则与实践指引。

完善标准体系,筑牢安全发展根基。《自律公约》共设四章十二条,以云服务商为核心责任主体,围绕明责定界、网络安全、数据安全、恶意行为防护、用户安全引导、风险信息报送六大维度,提出可落地、可执行的自律要求。

除《自律公约》外,我国智能体安全标准体系建设持续提速,多项关键标准相继发布。全国网安标委发布《智能体安全标准化研究报告》,构建基础共性、安全管理、关键技术、测试评估、产品与应用五大维度的标准体系框架;世界数字科学院发布全球首个AI智能体运行安全测试标准,弥补了智能体安全测试技术标准空白;中国软件行业协会、广东省标准化协会等机构发布《智能体行为安全要求》等团体标准,明确智能体行为安全基本原则与核心要求。目前,已形成“自律公约+国家标准+行业标准+团体标准”多层次、全覆盖的标准体系,为智能体安全发展提供全方位支撑。

强化协同共治,凝聚产业发展合力。当然,智能体安全治理是系统工程,更需政府、企业、行业协会、科研机构等多方的协同发力,构建协同共治的产业生态。

未经允许不得转载: 意库资讯网 » 智能体批量上岗 需“以模治模”完善内生安全