算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 学习网
2024-07-01 11:32:41

扒开老女毛荫荫的黑森林「ええそうよ。そういうのcないものとしてやってきたの。私cサインcコサインだって全然わっかてないのよ」  <a target='_blank' href='/' >中新网</a>2月10日电 国家统计局10日公布数据显示,2023年1月份,全国工业生产者出厂价格同比下降0.8%,环比下降0.4%;工业生产者购进价格同比上涨0.1%,环比下降0.7%。q8EMB-izw7LYf0X17nCuAjmolj-算力管理复杂、训练成本过高,专家谈AI困境如何破解

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在 行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  <strong>伟大的事业,必然要付出更为艰巨、更为艰苦的努力</strong>

  当月,非食品价格环比由上月下降0.2%转为上涨0.3%,影响CPI上涨约0.25个百分点。非食品中,随着疫情防控政策优化调整,出行和文娱消费需求大幅增加,飞机票、交通工具租赁费、电影及演出票、旅游价格环比分别上涨20.3%、13.0%、10.7%和9.3%。

  财通证券党委书记、董事长章启诚表示,“我们认为差异化、专业化、特色化的发展模式是中小投行的‘胜负手’,立足区域深耕和全生命周期服务,IPO储备塔基雄厚的区域龙头券商将长期受益。”他告诉证券时报记者,该公司将聚焦聚力“三个深耕”,即深耕浙江经济和浙江人经济、山区26县跨越式高质量发展、企业全生命周期陪伴成长。

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有