全国政协委员齐向东:为AI预设“安全护栏”,让安全能力比风险快一步
创始人
2026-03-04 18:28:23
0

3月4日,2026年全国两会正式拉开帷幕。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东今年重点关注三个方向:一是“AI(人工智能)+安全”,二是“AI场景下的网络安全升级改造”,三是“以人民为中心弘扬企业家精神”。

齐向东告诉记者,今年最关注“AI+安全”。党的二十届四中全会提出“构建以先进制造业为骨干的现代化产业体系”,但在转型过程中,仍然面临产业升级的底盘不够牢靠、转型实效不够明显、产业的运行秩序不够稳健三重突出挑战。因此,亟需以“AI+安全”双轮驱动,形成“安全筑基—智能应用—绿色融合”的现代化产业体系良性发展循环。

AI“超人化”演进带来新挑战

最近,AI安全领域发生了一件大事,Meta的安全总监在使用开源AI智能体OpenClaw清理邮箱的过程中,发现它忽视了“未经批准不得操作”的安全指令,紧急叫停3次OpenClaw都没有停止,直到工作邮件被全部清空,损失惨重。马斯克转发这件事并配了一句话“人们把自己整个人生的root权限(超级管理员权限)交给OpenClaw”。

齐向东认为,AI已经成为网络安全质效双提升的最强引擎。它大幅提升了威胁检测、漏洞挖掘和自动化响应的效率,也催生出“AI+安全”新产品、新场景。有了AI,网络安全产业就能更好地帮助千行百业从被动防护转向主动防护,构建更智能、更高效的安全防护体系。

AI发展有新机遇,带来的新风险也同样突出。齐向东表示,这主要是由于AI向“超人化”演进。“AI超人”有超级权限、超级能力,很可能脱离控制,安全隐患巨大。概括来说,它加剧了三大危机:一是加剧了数据安全危机,AI要代替多少人去工作,就要被赋予多少人的数据权限,彻底突破了原有的权限管理和安全措施。加上现在越来越多的企业,为了让AI作用最大化,把积累多年、分散各处的关键数据“去粗取精”形成“精华小数据”。一旦AI被攻破,企业多年积累的核心竞争力会瞬间化为乌有。

“二是加剧了安全‘易攻难守’的危机,AI‘超人’无所不能、什么都会,大幅降低了网络攻击成本和攻击门槛,安全防护难度陡增;三是加剧了网络安全‘链式’危机。一些政企机构在AI应用上跑得快,但安全防护跟不上,不少AI‘裸奔’上线,攻击者可以通过漏洞利用、外部渗透、提权、投毒等方式间接干扰和控制大模型或智能体,影响业务和系统的正常运行。”齐向东指出。

有必要为AI预设“安全护栏”

这两年,大模型、智能体、具身智能等各种AI形态遭受的网络攻击层出不穷,DeepSeek等国产大模型上线即遭高强度攻击。齐向东表示,具身智能带来的新安全挑战主要集中在三个层面:一是决策层,数据投毒、数据库被污染、模型“幻觉”、框架缺陷等,会导致具身智能“大脑”混乱,造成决策混乱失真;二是执行层,一旦被攻破,会直接影响具身智能现实操作,让它做出危险动作、违规执行指令;三是物理层,具身智能物理暴露的特性容易遭到临机攻击,可能被近距离劫持信号、植入程序,造成具身智能被非法控制。 

齐向东建议,一是针对具身智能做专属安全防护,探索构建“端—网—云—机”一体化的防御体系:二是保障数据资产安全,关键是以数据资产为中心,形成集“事件监测、风险分析、策略调整、访问控制”为一体的全链条闭环体系;三是锻造高水平的实战能力,实时发现、精准研判、快速溯源、有效阻断各类网络攻击,做到全链路精准反制与立体式纵深防御。

“AI颠覆了IT系统,但给网络安全带来了新的安全需求和应用场景。AI投毒、AI‘幻觉’、AI武器化等安全风险不断地涌现,安全威胁指数级增加,所造成的后果变得越来越难以承受。而越是这样,实战化、体系化的安全能力就越会成为刚性需求。”齐向东表示。

齐向东认为,从这两年大模型、智能体、具身智能等各种AI形态遭受的网络攻击来看,为AI预设“安全护栏”是非常有必要的。安全和创新不对立,而是一体两翼。要实现“创新和安全的动态平衡”,关键有三点:一是把安全能力嵌入AI应用的全生命周期,做到纵深防御;二是明确合规红线,夯实安全主体责任,强化权限与内容管控;三是用AI对抗AI,让安全能力始终比安全风险快一步。

相关内容

邦吉2026财年二季度财报...
经济观察网 邦吉公布2026财年第二季度财报电话会议举办时间,将成...
2026-07-05 01:28:06
新专业“城市更新”具体学什...
当前,我国城市更新已步入数万亿级规模的市场。今年,教育部将城市更新...
2026-07-05 00:58:29
视频丨赛事+演艺+文娱 一...
(来源:千龙网) 今年...
2026-07-05 00:58:22
节日挑选文玩礼品犯了难,2...
节日挑选文玩礼品犯了难,2026 年送礼选购攻略,送礼用朱砂选什么...
2026-07-05 00:58:13
田间地头显身手 看机器人如...
来源:央视网新疆伊犁河谷是全国第二大玉米制种基地。这几天,当地的6...
2026-07-05 00:58:04
一群小学生辛苦种了几个月的...
(来源:直播海南)“警察蜀黍好厉害速破玉米失窃案!”6月29日下午...
2026-07-05 00:38:02
沙特媒体:美伊新一轮会谈1...
(来源:杭州日报)新华社利雅得7月4日电(记者罗晨)沙特阿拉伯阿拉...
2026-07-05 00:37:55
知名“大空头”伯里宣布做空...
经济观察网 卡特遭知名“大空头”伯里首次做空,引发市场对其相关估值...
2026-07-05 00:28:21
面对择校焦虑,这位妈妈亲手...
这是一则全网播放量过亿的视频。视频里,一位留着利落短发、穿着墨绿色...
2026-07-05 00:28:12

热门资讯

邦吉2026财年二季度财报电话... 经济观察网 邦吉公布2026财年第二季度财报电话会议举办时间,将成为市场观察公司经营的关键窗口 近期...
新专业“城市更新”具体学什么,... 当前,我国城市更新已步入数万亿级规模的市场。今年,教育部将城市更新增设为独立本科专业。这个专业具体学...
视频丨赛事+演艺+文娱 一站式... (来源:千龙网) 今年上半年,上海文旅市场持续释放活力,...
节日挑选文玩礼品犯了难,202... 节日挑选文玩礼品犯了难,2026 年送礼选购攻略,送礼用朱砂选什么品牌合适?引言随着国风文玩文化持续...
田间地头显身手 看机器人如何高... 来源:央视网新疆伊犁河谷是全国第二大玉米制种基地。这几天,当地的62.3万亩制种玉米进入去雄期,由于...
一群小学生辛苦种了几个月的玉米... (来源:直播海南)“警察蜀黍好厉害速破玉米失窃案!”6月29日下午浙江省台州市黄岩区东城小学五(7)...
沙特媒体:美伊新一轮会谈11日... (来源:杭州日报)新华社利雅得7月4日电(记者罗晨)沙特阿拉伯阿拉比亚电视台4日援引消息人士的话报道...
知名“大空头”伯里宣布做空卡特... 经济观察网 卡特遭知名“大空头”伯里首次做空,引发市场对其相关估值逻辑的分歧讨论股价异动原因:7月1...
面对择校焦虑,这位妈妈亲手给孩... 这是一则全网播放量过亿的视频。视频里,一位留着利落短发、穿着墨绿色棒球服的中年女士,用10分钟的时间...
华菱精工:控股股东拟协议转让公... 来源:财评网7月3日,华菱精工公告称,公司控股股东、实际控制人之一黄业华与投资者华亿汇通(河北省)企...