算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 气象小秘书
2024-06-30 05:38:33

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推 理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

西班牙:世界排名第7位,本届世界杯西班牙全队平均年龄只有25.7岁,是传统强队中最年轻的一支。为实现球队年轻化的转型而没有征召拉莫斯、德赫亚,队中超过31岁的球员只有布茨克斯和阿斯皮利奎塔两人。即使如此,西班牙队的球员大部分都是五大联赛顶级球队中的绝对主力,所以年轻不代表稚嫩,而代表了充满活力,佩德里、法蒂、加维等年轻的西班牙球员将试图卷起一阵青春风暴。

世界杯带给百威“禁酒”掣肘的也带来营销机会。对于百威来说,“禁酒”虽然尴尬,但业绩瓶颈更加尴尬,因此即使世界杯赞助是花大价钱却被“禁酒”,百威依旧要站在全球球迷面前立好品牌形象。

足球不仅仅是一项运动或比赛,它已经成为了撬动政治和经济的重要支点,也是那些挑战当前统治秩序的人手中的杠杆。

PlayPulse承诺“将推出各种各样的游戏”,以及包括“更传统的”锻炼软件和流媒体服务、视频服务。

“我觉得很好,很早以前他还不是队长,但时至今日,他展示出了一些东西,这是我们在阿根廷所乐意看到的。我认为梅西身上一直都有领袖气质,现在更加外显,让我们能够看到。赢得美洲杯实际上让他松了一口气,他一直在国家队承受了很大压力。这个冠军他追求了很久,现在他想再来一个,他渴望更多。”

但现实中,环保主义者和相关研究人员正在抨击赛事对环境造成严重影响,这届将在波斯湾沙漠半岛上举办的世界杯甚至被认为是世界杯历史上最大的环境灾难之一。

陆欣怡

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有