意库资讯网 意库资讯网

当前位置: 首页 » 热门动态 »

全国政协委员齐向东:应构建具身智能专属安全防护

“人工智能的变革,正定义下一代安全。”今年全国两会,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东重点关注用“AI+安全”双轮驱动,筑牢现代化产业体系根基等话题。

这几年,AI技术发展日新月异,不论是大模型、智能体还是具身智能,安全问题都如影随形。去年,Deepseek横空出世,奇安信立刻组织团队跟进研究,形成了大模型卫士、大模型安全护栏等创新成果。如今,智能驾驶汽车、智能无人机,轮式、多足机器人等等具身智能形态都逐渐成熟了,被黑、被控的事越来越多,为此,奇安信专门探索构建了“端-网-云-机”一体化的防御体系,力争为具身智能的大规模应用提供强有力的技术服务支撑。

齐向东表示,公司还积极开展AI安全应用,推进全产品AI化。奇安信的智能运营平台,研判准确率已经达到95%以上,安全事件响应时间从传统“天”级缩短到了“分钟”级。

齐向东注意到,AI带来的新风险也同样突出,这主要归因于AI向“超人化”演进。最近,AI安全领域发生了一件大事,Meta的安全总监在使用OpenClaw清理邮箱的过程中,发现它忽视了“未经批准不得操作”的安全指令,紧急叫停3次OpenClaw都没有停止,直到工作邮件被全部清空,损失惨重。

齐向东表示,“AI超人”有超级权限、超级能力,很可能脱离控制,安全隐患巨大。概括来说,它加剧了三大危机:

一是加剧了数据安全危机。 AI要代替多少人去工作,就要被赋予多少人的数据权限,彻底突破了原有的权限管理和安全措施。加上现在越来越多企业,为了让AI作用最大化,把积累多年、分散各处的关键数据“去粗取精”形成“精华小数据”。一旦AI被攻破,企业多年积累的核心竞争力会瞬间化为乌有。二是加剧了安全“易攻难守”的危机。AI“超人”无所不能、什么都会,大幅降低了网络攻击成本和攻击门槛,安全防护难度陡增。三是加剧了网络安全“链式”危机。一些政企机构在AI应用上跑得快,但安全防护跟不上,不少AI“裸奔”上线,攻击者可以通过漏洞利用、外部渗透、提权、投毒等方式间接干扰和控制大模型或智能体,影响业务和系统的正常运行。

而针对具身智能这一热点话题,奇安信表示,具身智能带来的新安全挑战主要集中在三个层面:一是决策层,数据投毒、数据库被污染、模型“幻觉”、框架缺陷等,会导致具身智能“大脑”混乱,造成决策混乱失真;二是执行层,具身智能的“四肢”由智能体和硬件“执行体”构成,软硬件供应链复杂,终端漏洞、云平台、API接口等处处都是攻击突破口,而这些口子一旦被攻破,会直接影响具身智能现实操作,让它做出危险动作、违规执行指令等;三是物理层,具身智能物理暴露的特性容易遭到临机攻击,可能被近距离劫持信号、植入程序,造成具身智能被非法控制。

解决这些安全问题,他有三个建议:第一是针对具身智能做专属安全防护。目前,奇安信已经探索构建了“端-网-云-机”一体化的防御体系,并聚焦攻击入口探测、威胁场景构建、CVE漏洞验证等核心环节,开展渗透测试,为具身智能的安全检测提供强有力的技术服务支撑。二是保障数据资产安全。关键是以数据资产为中心,形成集“事件监测、风险分析、策略调整、访问控制”为一体的全链条闭环体系。三是锻造高水平的实战能力。实时发现、精准研判、快速溯源、有效阻断各类网络攻击,做到全链路精准反制与立体式纵深防御。

南方+记者 郜小平

未经允许不得转载: 意库资讯网 » 全国政协委员齐向东:应构建具身智能专属安全防护