齐向东:AI大模型不是万能钥匙,落地过程警惕安全风险

来源: 羊城派
2024-06-07 09:56:44

勾引邻家新婚少妇综合网病室に戻ると緑は父親に向かって自分はあるのでちょっと外出してくるcそのあいだこの人が面倒を見るからと言った。父親はそれについてはとくに感想は持たなかったようだった。あるいは緑の言ったことを全く理解してなかったのかもしれない。彼はあおむけになってcじっと天井を見つめていた。ときどきまばたきしなければc死んでいると言っても通りそうだった。目は酔払ったみたいに赤く血ばしっていてc深く息をすると鼻がかすかに膨らんだ。彼はもうびくりとも動かずc緑が話しかけても返事をしようとはしなかった。彼がその混濁した意識の底で何を想い何を考えているのか。僕には見当もつかなった。  上海市党政代表团在江苏首站前往网络通信与安全紫金山实验室,在安徽考察安徽创新馆、中科院合肥物质科学研究院,在浙江考察祥符荡科创绿谷研发总部等;p3TQQ-MiAubC9ZQQlmt2e3-齐向东:AI大模型不是万能钥匙,落地过程警惕安全风险

  中新网北京6月5日电 (记者 夏宾)当前,各行各业网络化、数字化、智能化转型加速,以数据为关键要素的新产业,以人工智能为关键技术的新场景,面临的安全挑战更加复杂,各类攻击威胁与日俱增。

  5日,以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会在北京国家会议中心举行,全国工商联副主席、奇安信集团董事长齐向东在会上发表主旨演讲称,AI驱动安全是大势所趋,未来网络攻防就是得AI者得天下。

  “谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。”齐向东判断,当前网络安全格局正在被颠覆重构,但这种颠覆重构不仅带来新的安全挑战,也为网络安全行业带来前所未有的战略机遇。

  面对人工智能时代新的网络安全态势,2024年政府工作报告提到,加强重点领域安全能力建设,其中就包括“提高网络、数据等安全保障能力”。

  据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。

  一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示,安全性是受访者最关心的问题,71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。

  由此,齐向东也提醒说,AI大模型不是万能钥匙。尤其是在当前“百模大战”的状态下,只有高质量发展的大模型,才能真正带来指数级能力跃升,激发网络安全行业的新质生产力。

  他在接受中新网等媒体采访时提到了AI落地过程中的安全风险问题。例如,一旦对AI“倾囊相授”、对AI发问时“掏心窝子”,其具备的解决问题能力会越来越强,涉及到相关知识产权、商业机密等方面的内容可能会被竞争对手通过AI窃取,造成数据泄露的风险。

  另一方面,无论是训练还是使用,必须把AI接入到公司内部数据中,但大部分AI又是从外部“领养”,是否存在“后门”、是否会被人“投毒”,都无从可知,这也是数据安全带来的潜在风险,若长期使用被“投毒”后的AI给出的业务决策,可能就会把业务带偏。

  但他也直言,我们 不要被AI可能引发的数据泄露所吓倒,应该要拥抱AI,要把安全的问题交给安全公司,相信专业人办专业的事。网络安全公司要全面拥抱AI,利用AI实现安全能力的跃升

  在齐向东看来,做好“AI驱动安全”至少需要具备三大条件,一是高质量的训练数据,二是纵深防御的内生安全体系,三是设备、体系具有统一的输入输出标准。

  具体而言,既要有足够多的基础安全数据用于训练安全大模型,也要有足够贴近实战的一手原始语料用于大模型推理。齐向东认为,基于这种全而新的高质量数据训练出来的大模型,精确性和实用性才能远超未优化的通用模型。

  此外,需要体系化的网络安全建设,为AI发挥效率创造平台。齐向东称,网络安全防护有赖于体系化协同。当前,通过AI赋能内生安全体系,不仅可以实现网络安全系统和客户业务系统的完美融合,更能实现网络安全响应从滞后到实时的大跃升,全时段瞬时响应成为可能,也为AI实时发挥防护功能和学习最新技术提供了真实海量场景。

  “训练好的安全大模型,能否取得好效果取决于设备和体系是否有统一的标准。”齐向东认为,标准的统一至少包括两个方面,一方面是数据输入标准的统一,让AI能通过标准系统读懂“多国语言”,完成体系化分析。另一方面是指令输出标准的统一,让AI实现跨设备、跨系统的能力协同和全局联动。(完)

  按照沈晖此前的说法,威马长期“准上市状态”使其“既没吃饱,又要快跑”,在相当长的时间内,承担了许多非上市企业不该承担的压力,首当其冲的就是融资困难。由于科创板不能股权变动,威马无法通过股权来融资。而作为亏损企业,大部分债权银行也都不愿意对威马发债。“所以我们进入科创板上市通道后的一年半内,没有融到一分钱。”2023年3月初,上海市青浦区消费者权益保护委员会更是发布消费警示,“威马汽车经营异常,提醒消费者谨慎购买”。

  然而,这位烟草系统的“能人”,却在选人用人、烟草设备招标等多方面存在问题。《廉政瞭望》报道称,余云东在主政云南省烟草专卖局的8年间,其女余静雯被当地烟草系统人员暗讽为“长公主”。从几十万的办公楼装修绿化到上亿元的烟草基地建设,乃至重要人事任命,她都有插手的空间。

  《廉政瞭望》报道称,号称“云南烟王”的余云东在位长、能力强,是近20年来云南省最强势的烟草局长。他在任期间,云南省烤烟收购量实现翻番,卷烟税利由135亿元增长至435亿元,年均增长17.4%。他还借鉴酒庄模式兴建烟草庄园,在国内首开先河,带动旅游发展。其成绩多次被国家烟草专卖局与原国家旅游局点名表扬。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有