取消
搜索历史
热搜词
原创
活动
转型理念
ENI专访
当前位置:首页 >文章发布 > 正文
齐向东:“AI投毒”污染数据冲击安全防线
来源:北京日报客户端  作者: 佚名 2024-07-10 09:00:22
7月9日,中国互联网协会主办的2024(第二十三届)中国互联网大会在北京举行。奇安信集团董事长齐向东在主题演讲中表示,人工智能新时代,网络安全面临着全方位挑战,要以AI驱动安全,应对安全威胁并补齐三大薄弱环节。

7月9日,中国互联网协会主办的2024(第二十三届)中国互联网大会在北京举行。奇安信集团董事长齐向东在主题演讲中表示,人工智能新时代,网络安全面临着全方位挑战,要以AI驱动安全,应对安全威胁并补齐三大薄弱环节,全方位提升新时代安全能力,护航互联网新质变,共同打造安全、稳定、繁荣的网络空间。

人工智能新时代下,生产力水平极大地提高,同时,安全威胁也正由点及面地全方位扩散。一方面,网络安全攻击造成严重的经济损失;另一方面,网络安全事故还会严重威胁国家安全

齐向东总结了人工智能新时代面临的三大安全威胁。其中,第一个威胁是AI“饱和式”攻击打垮网络安全运营体系。攻击者可以利用AI工具对网络攻击进行改造和升级,短时间内发动大范围连续进攻,让目标处于无法应付的饱和状态,然后趁虚而入。那些原本就缺少安全专家的政企机构,就会陷入“攻强守弱”的境地。

第二个威胁是AI深度伪造引发社会混乱。人工智能可以快速编写恶意软件与代码,AI欺诈事件频繁发生。一些不法分子利用人工智能技术进行“深度伪造”,冒用身份混淆视听,进行网络欺诈,“眼见未必为实”“耳听未必为真”将成为常态,极有可能引发社会认知混乱。

第三个威胁是“AI投毒”污染数据冲击安全防线。人工智能时代,黑客组织利用AI升级攻击手段,通过对抗样本、数据投毒(数据投毒是一种通过在训练数据中植入恶意样本或修改数据以欺骗机器学习模型的方法)、模型窃取等多种方式对AI算法进行攻击,使其产生错误的判断,同时由于算法黑箱和算法漏洞的存在,这些攻击往往难以检测和防范。

他提到面对这三大网络安全威胁,政企机构的网络安全建设还处于探索阶段,存在着人力不足、思路落后、体系不全的薄弱环节,暴露了当前我国网络安全防护上普遍存在的建设思路落后、不成体系、人才短缺的问题。

“想要应对三大安全威胁、补齐三大薄弱环节,就要用AI驱动安全,为安全能力带来指数级跃升。”齐向东介绍,在单点设备检测方面,AI可以对过去人工漏掉的告警进行全量研判,实现安全能力十倍级提升;在体系化防御方面,通过AI赋能的综合分析和全局联动,实现安全能力百倍级提升;在溯源和反制方面,从威胁发现到攻击溯源环节,依托AI的智能化、自动化,可实现响应能力的千倍级提升。

免责声明:本文系网络转载,版权归原作者所有。本文所用图片、文字如涉及作品版权问题,请联系删除!本文内容为原作者观点,并不代表本网站观点。
编辑:乔帅臣
关键词:   AI  数据污染  互联网 
活动 直播间  | CIO智行社

分享到微信 ×

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

Baidu
map