奇安信董事长齐向东与搜狐科技等媒体对话交流

出品 | 搜狐科技

作者 | 梁昌均


【资料图】

“可能会有更多的黑客用AI辅助提高它们的能力,但有攻就有防,从而引发网络攻击和防护新的不平衡。”谈及ChatGPT等生成式AI对网络安全行业的影响,奇安信董事长齐向东在今日的北京网络安全大会期间对搜狐科技等媒体表示。

对于当下备受关注的AI大模型,齐向东也相信超智能的AI在十年之内能出现。“现在主要是靠算力的进步,算力发生了革命性的变化,模型的参数不断地放大,它就产生重大的涌现。”

OpenAI CEO山姆·奥特曼此前表示,很难预测我们离安全的AGI还有多远,但能够确信未来10年内能够出现超强的AI系统。“不过,现在对超智能没有一个严格的定义,你说它出现就出现了,所以这只是OpenAI对AI未来前景展望的乐观估计。”齐向东表示。

同时,齐向东表示,对AI的监管要从两方面入手,一个是意识形态或价值观的监管,这比较容易,更难的是对行为的监管,其实就是伦理的问题。

“如果有AI或者机器人,它的能力比人的能力强很多,需要防止它去作恶。我们作为安全公司,在未来AI的时代应该有更强的使命感,更高的责任感。”齐向东说。

面对当下大厂纷纷布局AI大模型,齐向东透露,奇安信也在研发类ChatGPT的大模型,并将会在可交付的时候发布。“我们是为政府和企业客户服务,我们不是基于自己的想法去做,发布的产品要可交付,客户拿去用就像雇用一个高级员工一样。”

同时,他表示,在生成式AI涉及的安全问题层面,内容安全、内容合规不是奇安信的主业,但有关数据泄露、大模型系统安全和网络安全人才培养等问题,奇安信已经布局相应的解决方案。

谈及AI等技术主导的数智时代的安全问题,齐向东表示,和传统时代相比,数智时代的安全事故的诱因将完全不同,网络攻击将成为最主要的诱因。“数智系统的普及,解决了很多盲区问题,加速社会发展的同时,也减少了事故,但也带来了新盲区。”

齐向东解释称,这是因为数智时代数据发生了三大变化:数据从“死”到“活”,在复杂流动中产生更大风险;数据从虚到实,攻击暴露面越来越大;数据从贱到贵,价值越来越高,损失也更难承受。

由此也使得数智时代的数据安全出现了三大难题:数据操作行为真假难辨,很难分辨是正常业务操作还是网络攻击;“三员”(技术员、管理员、操作员)违规行为难控,威瑞森的统计显示,数据泄露事件中82%和内部有关。

同时,软件供应链漏洞、后门难防。比如应用最广泛的JAVA编程语言,有近1500万个版本的JAVA开源组件,奇安信对其中1780个开源组件的1.6亿行代码进行检测,发现安全缺陷265万个,每1000行代码中就有16个安全缺陷。

因此齐向东认为,在数智时代,网络安全“易攻难守”将常态化。“各行各业的系统都依赖数字基础设施,一旦基础设施被攻破,就好比自来水被下毒,一个攻击危害一片,引发蝴蝶效应。”

齐向东表示,这些变化和难题,又导致新的攻防力量的不平衡。“怎么解决呢?要投入更多的资金预算,要投更多的网络防护的人才的力量,才能达到平衡。”他介绍到,奇安信在创新、研发和人才投入上,这些年已超过200亿元。

齐向东认为,企业要想实现既敢大胆投入,又能够做到风险可控,唯一途径就是把准国家发展战略的脉搏,即企业干的事是不是为国家所欢迎,是不是能推动社会进步,是不是有促进社会发展进步的机会和力量。

对于如何解决数智时代的安全问题,齐向东对搜狐科技等媒体表示,必须内生为本,即内生安全要实现安全技术和IT技术的融合,安全数据和IT数据的融合,安全人才和IT人才的融合。

“在传统的安全领域里头,有的对内生安全不理解,有的认为太麻烦,但进入数智时代之后,大家一定会对内生安全会有更深刻的理解。”齐向东表示,与传统网络安全的内生安全相比,数智时代的内生安全需要重点做好三件事。

第一随着数据和业务的联系越来越紧密,要从关注IT转变成关注业务;第二要从关注设备转变成关注“人”,更加注重防范“内鬼”;第三要从关注建设转变成关注运营,只有运营才能够实现内生安全的螺旋式的无限的上升,从而推动安全能力不断的提升。

“网络安全没有绝对安全,但数智安全应当以‘零事故’为目标,要满足业务不中断、数据不出事、合规不踩线三大标准。”齐向东表示,安全这件事“一着不慎,满盘皆输”,必须迎难而上,实现网络安全“零事故”。

推荐内容