算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 黑龙江东北网
2024-07-02 01:26:36

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡 ,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  展厅里展出了波痕、豆粒结构、竹叶状灰岩等海相沉积岩。

  中方也始终坚持及时、公开、透明同国际社会分享病毒变异监测和感染人群等信息。三年来,中方同世界卫生组织开展技术交流60余次,最近一个月就进行了4次。中方还持续通过全球流感共享数据库分享新感染病例的病毒基因数据。

  三是全力提升就业能力。推出就业指导公开课,组织职业指导师进校园。实施青年专项技能培训计划,开展适合毕业生的短期技能培训。继续实施百万就业见习岗位募集计划,开发更多适应毕业生等青年就业的见习岗位。

  “海相沉积岩承载着海洋环境和生物特征等信息。比如,豆粒结构一般是海藻等微生物留下的活动痕迹。”山西地质博物馆自然资源科教部主任郭然介绍。

  习近平指出,健全党统一领导、全面覆盖、权威高效的监督体系,是实现国家治理体系和治理能力现代化的重要标志。党委(党组)要发挥主导作用,统筹推进各类监督力量整合、程序契合、工作融合。要持续深化纪检监察体制改革,做实专责监督,搭建监督平台,织密监督网络,协助党委推动监督体系高效运转。要把巡视利剑磨得更光更亮,勇于亮剑,始终做到利剑高悬、震慑常在。

  在2021年年底,扎克伯格曾经是全球第六大富豪。但是在去年底,扎克伯格在彭博财富指数的排名下降了19名,位居第25,是自2014年以来的最低排名。

刘建来

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有