算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 华声在线
2024-06-30 11:02:59

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需 要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  在A商家该款N95口罩的评论区,有买家称,该款口罩一天曾经一天降价3次。据该买家晒出的订单截图显示,其在2022年12月26日下单,一盒25只价格102.51元,12月30日上午发现该款口罩一盒的价格已降至81.6元,后来发现这个价格再次降为61.9元(实付47.4元),当天下午发现第三次降价时,一盒的售价是58.8元。

  记者到来时,沙曲二矿领导班子正在召开当日生产调度会。“为了保证每日生产达标,我们细化到每个作业流程。大到工作面的‘三直一平两畅通’,小到工作面跑、冒、滴、漏,再到两巷单体支柱及管线的支护、捆绑等,全部从严从细、精细管理,确保保供任务达产达标。”

  据路透社报道,俄罗斯与白俄罗斯于16日开始展开的联合空军演习引发乌克兰和西方国家的普遍担忧。

  外交部驻香港特别行政区特派员公署特派员刘光源在仪式致辞中表示,推送优秀香港青年到联合国系统任职,是中央政府充分发挥“一国两制”制度优势,关心关爱香港青年,助力香港青年在更广阔舞台上历练成才的重要举措。

  Bird Buddy生产的智能喂鸟器能在给鸟类提供食物的同时为这些可爱的访客拍摄照片。这家初创公司表示,其人工智能可识别1000多种鸟类,用户可以通过手机应用程序分享它们正在喂养的鸟类。

  财政部要求各地,优化财政支出结构,多渠道筹措资金,大力盘活财政存量资金,集中力量保障疫情防控必要支出。适应当前应急需要,提高中央和地方财政资金使用效率,建立完善防疫物资、医疗救治物资等急需资源政府采购“绿色通道”,决不能因为经费问题影响疫情防控。已明确的医院补助资金,限期拨付到位,拖欠的要尽快拨付,帮助医院疏解困难,确保正常运转;需要紧急配置的资产,简化配置审批程序,在履行必要的内部程序后,快速高效配置,统筹调配使用。

李敬琴

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有