算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 海报新闻
2024-07-01 05:06:14

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚 表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  难题接踵而至。国内从未设计建造过符合英国劳氏船级社规范的船舶,没有任何资料,没有相关图纸,但时间紧迫,要7天完成报价设计,38天完成合同设计,33天完成技术设计中的送审图纸。考虑到费用、时间、技术积累等问题,设计团队放弃了从国外购买图纸的方案,决定自主绘制,由上海船舶及海洋工程设计研究院负责。

  (二)促进大国协调和良性互动,推动构建和平共处、总体稳定、均衡发展的大国关系格局。大国在维护国际和平与安全上承担特殊重要责任。倡导大国带头讲平等、讲诚信、讲合作、讲法治,带头遵守《联合国宪章》和国际法。坚持相互尊重、和平共处、合作共赢,坚守不冲突不对抗的底线,求同存异、管控分歧。

  另一方面,不少年轻人无法忍受传统制造业的工作环境。由于传统制造业的生产限制,部分工序生产环境较为恶劣,噪音高、污染大、长期搬运重物,时间长了对身体难免有所损害,都会“劝退工人”。

  但一些企业要推广机器换人也存在技术难点。以门业为例,由于防盗门不像保温杯等产品标准化,每天要生产几百个不同批次,每个批次里还有各种规格型号,机器难以制造几千种不同类型的门。

  过去5年中,40多岁的砂帆子几乎每个周末都会去上野动物园看香香,“虽然没有仔细算过,和香香见面次数一定超过300次,生活的大部分时间都花在熊猫上了。”她说,自己并不是最狂热的粉丝,除动物园闭园之外,还有好些人风雨无阻地每天去见大熊猫。

  [环球时报综合报道]美国对中国的抹黑和栽赃正在变本加厉。当地时间26日,美国中情局(CIA)局长伯恩斯声称,中情局“确信”中国“正在考虑为入侵乌克兰的俄罗斯军队提供致命军事装备”。当天,美方还再次翻炒“新冠病毒溯源”问题的“冷饭”,美国能源部声称,他们有“新证据”表明“出现新冠病毒最有可能的原因是中国实验室的一次意外泄漏”。不过,美方疯狂抹黑中国,却缺少证据支撑。甚至伯恩斯自己也称,“我们还没有看到北京做出最终决定,也还没有看到他们向俄罗斯实际运送武器的证据”。而对于美国能源部的报告,《纽约时报》援引知情官员的话称,这份情报相对薄弱,能源部的结论“可信度较低”。多名中国专家27日对《环球时报》表示,美方在没有证据,且自己都认为“可信度低”的情况下,仍然不停炒作渲染虚假信息,这些对中国的栽赃就是针对中国的舆论战,性质极其恶劣。27日,外交部发言人毛宁在记者会上表示,美方一边变本加厉向冲突一方输送武器,导致战事绵延不绝、和平遥遥无期,一边却频频散布中国向俄罗斯提供武器的虚假信息,借机无端制裁中国企业。这是赤裸裸的霸凌行径和双重标准,十分虚伪。

陈映士

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有