算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 中国小康网
2024-06-30 22:21:26

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键 作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  7月14日,央行货币政策司司长邹澜在“2023年上半年金融统计数据情况新闻发布会”上称,“按照市场化、法治化原则,我们支持和鼓励商业银行与借款人自主协商变更合同约定,或者是新发放贷款置换原来的存量贷款。”

  新华网官网介绍,新华网是国家通讯社新华社主办的综合新闻信息服务门户网站,是中国最具影响力的网络媒体和具有全球影响力的中文网站。作为新华社全媒体新闻信息产品的主要传播平台,拥有31个地方频道以及英、法、西、俄、阿、日、韩、德、葡等多种语言频道,重大新闻首发率和转载率遥遥领先国内其他网络媒体。新华网是全球网民了解中国的最重要窗口,致力于为全球网民提供最权威最及时的新闻信息服务,用户遍及200多个国家和地区。

  在气候变化问题上,当前中方和美方的原则立场和要求存在差异,对彼此应该承担的责任有不同认识,很难在如此短的时间内就一些原则性问题达成共识。不过,中美双方可能会在某些具体议题上推进合作,例如开展技术分享、进行气候相关的国际援助等。而这背后的想法或许是,能合作先合作,无论规模大小,先呈现好迹象,再慢慢形成正向循环。

  持续整治金融腐败,是纪检监察系统的一项重要工作。今年1月召开的二十届中央纪委二次全会强调,突出重点领域,深化整治金融、国有企业、政法等权力集中、资金密集、资源富集领域和粮食购销等行业的腐败。截至4月8日,二十届中央第一轮巡视完成进驻,此次巡视对象包括5家金融单位,光大集团为其中之一。

  从本轮省部级高官调整方式看,8名省委常委,跨省、跨部委交流占绝大多数。交流方式也多样,除了跨省交流外,也有部委与地方人员交流。

  武汉的风韵出行就曾受限于用户流量的拓展及线上运营,业务发展面临瓶颈。2019年8月,风韵出行与聚合平台中的高德合作,借力聚合模式,快速补齐了流量和线上运营能力的短板。

胡忆书

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有