算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 北青网
2024-07-01 04:36:05

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、 可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  记者注意到,今年以来已有49只主动权益类基金产品(不同份额分开计算)主动“限流”,宣布暂停大额申购、定期定额投资业务。业内人士认为,基金限购大多数是为了维护现有持有人利益,未来会越加常态化,建议投资者做好投资规划,理性选择合适的投资时点。

  截至发稿,港股恒生指数跌2.15%,报21486.37点,恒生科技指数跌2.17%,报4594.85点。大型科技股中,阿里巴巴-SW跌3.57%,腾讯控股跌1.57%,京东集团-SW跌3.47%,小米集团-W跌2.19%,网易-S跌1.12%,美团-W跌3.34%,快手-W跌2.26%,哔哩哔哩-W跌1.59%。

  <strong>【开好局 起好步】安徽:加速产业升级 打造发展新引擎</strong>

  李宇嘉指出,集中供地模式是在疫情后开始推的,主要是应对当时高地价及新一轮楼市上涨。同时,从那时开始,也开启了一揽子长效机制建设。当对房企定向去杠杆、要求自有资金拿地,全面打掉“前融”时,通过集中供地(一天内完成十几宗地块出让)控制源头上抢地、诞生高地价的必要性,已下降了很多。但后续商品房市场下行,回款走低,开发商资金链紧张,此时继续沿用集中供地,在很多城市甚至导致大面积流拍,恶化市场预期的同时,此前出让的高价地也无法开发了,甚至计提坏账准备。

  联合国前秘书长潘基文说,中国致力于做世界和平的建设者、全球发展的贡献者、国际秩序的维护者,这与联合国宪章承载的理想一致。

  <strong>绿色发展的实干派</strong>

林佳珠

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有