算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 天眼新闻
2024-07-01 16:06:48

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链 不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  据当地媒体报道,石家庄计划在城市中打造一系列大、中、小型音乐节举办地,在草坪、商街、景区等地建设小型音乐空间,甚至创新提出“摇滚巴士”“摇滚地铁”,并不定期安排摇滚乐手随机乘坐公交车、举办“快闪式”演出……

  赖化平,男,汉族,1964年4月出生,今年59岁,1982年8月参加工作,1989年6月加入中国共产党,省委党校研究生学历。

  经甘肃省药品检验研究院等10家药品检验机构检验,标示为北京朗迪制药有限公司等16家企业生产的碳酸钙D3颗粒等49批次药品不符合规定。现将相关情况通告如下:

  ③另外,由于今年高校毕业生的数量创了历史新高,以及由于三年疫情叠加一些延迟就业人数达到新高,我们还要继续采取一些结构性的政策措施,针对年轻人的失业问题来进行专项解决。

  洪斐昭表示,经向工作人员确认,垃圾桶内没有废弃鞭炮屑,垃圾桶爆炸目前只是片面说词。主办方表示没有与人结怨,活动期间也没有收到可疑讯息,静待警方调查真相。

  围绕着力推动民营经济实现高质量发展,《意见》还明确提出支持提升科技创新能力、加快推动数字化转型和技术改造等。小米集团创始人、董事长兼CEO雷军对此深有感触。他认为,《意见》释放出引导民营企业践行新发展理念的明确政策信号,让企业更加坚定了坚守主业、做强实业的决心,增强了自觉走高质量发展之路和为科技现代化作贡献的动力。

林春任

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有