“以魔治魔”,解决大模型“幻觉”等安全问题

来源: 奥一网
2024-07-07 06:19:13

  中新网北京7月6日电(中新财经记者 吴涛)随着AI大模型的发展,新技术应用不断加码的同时,网络威胁也随之升级。提升安全防护能力,筑牢安全基线,成为发展数智技术的关键。

  在2024全球数字经济大会期间举办的多个分论坛上,不少嘉宾都提到了AI安全话题,要用“魔法打败魔法”,AI驱动提升网络安全攻防能力。不少网络安全产品一个重要指标便是“含AI量”。

  AI衍生出新安全问题

  据多位业内人士介绍,大模型发展的同时,也带来了非常复杂的安全问题,同时还降低了网络攻击的技术门槛,借助AI能力,攻击者越来越走向自动化、智能化和武器化,甚至造成安全防御的整体瘫痪。

  赛迪顾问总裁助理高丹表示,涉及到的安全问题首先就是“幻觉”问题。“你问AI大模型一个问题,它可能说得清清楚楚,但其实都在瞎说,真假难辨”。

  360数字安全集团总裁胡振泉表示,人工智能的算法可能存在数据投毒攻击、恶意样本攻击;生成式人工智能在对话交互的过程当中也可能存在数据非法获取、泄露和滥用等问题;还有很多利用人工智能制作虚假视频进行诈骗、敲诈勒索等非法活动。

  清华大学长聘副教授张超表示,网络安全第一阶段是“人做攻防”,第二阶段是“机器攻防”。自2017年开始,已经进入第三阶段“智能攻防”,即用AI来做漏洞攻防相关研究,现在一些领先的安全企业已经强调用AI来做全自动攻防的机器人。

  逆向利用大模型

  该如何解决AI时代带来的安全问题?中国工程院院士沈昌祥在大会期间的分论坛上表示,数据安全治理需要做到全程管控,要实现首先让进攻者“进不去”,进去后“拿不到”数据,接着因为数据被加密“看不懂”,并且系统带有自动免疫功能,让进攻者“改不了”数据。

  “大模型一个典型应用是信息缺失之后模型帮你补偿出来,比如文生图、文生视等。如果用在安全上呢?”张超表示,黑客针对目标软件,需要拿到一个目标软件漏洞然后攻击它,第 一步就需要去理解它、分析它,这个地方叫逆向工程,因为没有源代码,可以使用一些AI软件把它逆向出来

  高丹认为,解决大模型“幻觉”等安全问题,首先要保证数据安全,数据不被泄露;第二数据源本身是干净的;第三要加强算法研究。从算法的角度来说,我们的算法能力越强,就能够减少相对的“幻觉”。

  胡振泉认为,AI技术和数字安全的融合发展已经成为行业高度关注的课题,要用“以魔治魔”的理念,来解决人工智能面临的安全问题,也就是研发安全大模型,用人工智能来解决人工智能的安全问题。

  沈昌祥还表示,不仅仅要做好预防,还要能在发现故障后及时采取措施确保稳定运行,保证设备“瘫不了”,最后还要确保行为可追溯“赖不掉”,因此我们还要打造安全可信的产业新生态,筑牢数字经济安全的基座。(完)

  人民法院全面实行立案登记制,全国法院当场立案率达95%以上,实现跨域立案服务全覆盖,立案难问题成为历史。人民法院调解平台开通以来,在线调解纠纷超过3676万件,平均每分钟有69件成功化解在诉前。

  记者从现场了解到,107国道广深公路是深圳市西出往粤西方向的一个主要通道,春运期间客运车流量较大,洪桥头是深圳唯一一个省级春运执勤点。

  来自国务院联防联控机制春运工作专班数据显示,1月11日(春运第五天,农历腊月二十)全国铁路、公路、水路、民航共发送旅客3788.8万人次,环比增长1.1%,比2019年同期下降48.9%,比2022年同期增长41.4%。

  “我早就想来东北看看真正的大雪长什么样子了!但这几年由于疫情原因,一直没有出过远门。今年政策调整了,学校也放假得早,我就跟爸妈一起来这边过新年。”列车上,21岁的广州小伙王博文被窗外的雪景所吸引。据他介绍,今年寒假他要趁着这个空闲,把雪乡、雪景和滑雪统统体验一遍。

  会员涨价已成为目前国内视频网站普遍选项,2022年4月20日,腾讯对腾讯视频VIP和超级影视VIP会员价格进行调整,涨价幅度在5元至20元之间。涨价幅度最大的是腾讯视频VIP连续包年,从过去的218元涨至238元。腾讯视频VIP连续包月、腾讯视频VIP年卡、超级影视VIP连续包月则分别涨价5元。此次爱奇艺涨价,平台会员价目前已与腾讯视频会员价基本持平。

  《拂晓报》创办之初,由于敌人的疯狂扫荡、封锁,各种物资奇缺,两支铁笔、两块钢板、两筒油墨、一把油刷、一块木板和半筒“高乐牌”蜡纸,便是全部家当。油墨用完了,彭雪枫卖掉自己心爱的战马,为《拂晓报》买来新油墨。他认为:“一支笔胜过两千支毛瑟枪。”对新闻事业,彭雪枫充满了热爱,曾说:“将来革命胜利了,我去当一名新闻记者。”

郭雅苹

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有