算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 驱动之家
2024-07-01 20:05:05

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GP U,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  西坡镇有4800多名村民,其中,65岁以上的老年人有600多人,登记在“红码档案”里的人员累计达到1300余人。为了掌握全镇居民的健康情况,院长冯志远和其他10名医护人员的工作量跟着翻了倍。他们帮助村医处理相对复杂的病例,随村医上门开展救治。两当县卫健局也统一给乡村配备了指夹式血氧仪、氧气袋。

  “展现城市以个人为主体的商业活力,不等靠要,应该发挥自主创业的活力。”上海市人大代表郑凯捷认为,如何鼓励自主创业,增加可支配收入,成为当前需要直面和加快解决的问题。从2022年12月1日起,全面修订后的《上海市市容环境卫生管理条例》(下称《条例》修订版)施行,明确区政府在综合考虑市容环境卫生、交通安全、公共安全、消费需求等因素基础上,可以划定一定的城市公共区域用于从事经营活动,增加“烟火气”。“这一举措目标是平衡市容管理需要与民生需求。”郑凯捷直言,如何打破“围墙”,打破“一管就死、一放就滥”的局面,城市管理者和政策制定者从顶层进行合理有序的规划和深入推进实施至关重要。

  四是稳定价格有政策。连维良强调,能源价格稳定对保障民生和经济平稳运行意义重大,中国煤炭价格形成机制进一步完善,电煤价格运行在合理区间。煤电上网电价市场化改革稳步推进,煤、电价格传导机制逐步完善。居民用电用气严格执行政府定价,价格保持稳定。

  国新办1月13日举行发布会,介绍做好能源保供确保温暖过冬情况,国家发改委回应了上述问题。

  很多人出门时会携带酒精进行日常消毒。注意!这些物品过不了安检,酒精极易挥发,属于易燃易爆危险品,禁止随身携带。

  据了解,“国门有喜”集体婚礼活动系上海边检总站首次举办,也是该总站暖警惠警的举措。今年以来,该总站通过组织“天涯海角有知音”“月圆瀛洲海边交友”等单身民警联谊主题活动,举办婚恋心理讲座等方式,关注青年民警“婚恋”问题。同时,上海边检总站还推出食宿保障、困难帮扶等一系列暖警爱警举措,激发了民警建功国门的热情。(完)

郑彦智

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有