算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 宣讲家
2024-07-08 16:05:01

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场 发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  在“基本上没有实验、从事纯基础理论研究”的理论物理所,庄辞观察到,科研人员收入中有近40%需要从科研项目中支出,这就导致如果不争取项目就没办法保障自己的收入水平,“甚至在北京的租房压力都很大”。

  来自全国的科学老师也因为短视频找到他,海南的、辽宁的、广东的、广西的……他们都想和王印学做水火箭。前不久,一位河南农村的老师在王印的指导下,带孩子们完成了水火箭的制作和发射。

  实际上,自研ERP面临的挑战非常多。首先,旧有ERP与外围系统集成点达3950多个,上万个数据集成点,IT架构如何重构适配?其次,旧有ERP固化了华为公司20余年管理和运营经验,这些管理流程经验如何继承?难题三是,针对同一场景交易性能,原数据库的高并发、高性能、高可靠的优势能力如何继承?对此,三年来,华为投入数千人,联合产业伙伴和生态伙伴攻坚克难。

  上海师范大学旅游学院副教授刘德艳认为,缆车作为一种极具标志性的旅游符号,极易引发漫步滨江两岸的游人,产生在浦江两岸穿梭的兴趣,可以把浦东和浦西的文旅由相对分开的状态直接联动起来。

  事实上,今年开年以来,各大电商平台就越发“内卷”。京东再启百亿补贴,打响价格战;阿里方面也快速上线“五星价格力”和“99特卖频道”,将“价格力”列为今年的重要战略之一。

  对此,上文中的军事专家分析,航母的主要战力来源之一就是其搭载的舰载机,所以山东舰的舰载机历来备受关注。4月上旬,山东舰航母编队赴西太开展实战部署演练,舰载机频繁起降进行舰机协同、对海突击,从容应对外军舰机滋扰挑衅,在大风大浪、远海大洋中锤炼编队体系作战能力。“通过该宣传片的画面,我们可以看到,山东舰几乎满载舰载机、进行实战演练,表明该舰已初步形成一定战斗力,可以遂行各种任务。”

赖采绿

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有