浪潮信息彭震:加速智算系统创新,切实解决大模型算力难题

来源: 腾讯新闻
2024-06-20 07:04:33

  中新网北京11月7日电(邱牧子)2023年,生成式人工智能的爆发带来了历史性产业机遇,正在逐步改造重塑社会、经济、文化等各个领域。

  浪潮信息董事长彭震近日在接受中新网采访时称,生成式AI蓬勃发展的背后,算力尤其是AI算力已经成为驱动大模型进化的核心引擎。但大模型时代的算力供给,与云计算时代的算力供给,存在很大的差异性。目前大模型研发已经进入万卡时代,从事大模型研发的公司和团队,普遍面临“买不起、建不了、算不好”的困局。

  如何解决上述困境?彭震认为,需要以算力基建化改善算力供给,促进算力普惠,以算力工程化指导完善算力系统最佳实践,提升算力效率,以模型训练工具化手段,降低模型训练门槛,推动全栈智算系统创新,通过“三化”融合互补,促进产业链条各环节协同配合,加速释放大模型生产力,打造人工智能产业良好发展环境。

  在他看来,通过大力发展智算中心新基建,中国和美国大模型产业的发展已经呈现出完全不同的发展路径。在美国,算力的私有化决定了大模型产业技术只能掌握在少数企业手中,而中国大力推动的算力供给基建化,为大模型创新发展提供了一片沃土,将使得整个产业呈现“百模争秀”的全新格局。

  另一方面,追求算力效率工程化,化解大模型算力系统“建不了”难题。彭震直言,即使解决了算力供应的问题,通用大模型开发仍然是一项极其复杂的系统工程,如同F1赛车的调校一样。F1赛车的性能非常高,但如何调校好这部赛车,让它在比赛中不仅能跑出最快圈速,而且能确保完赛,对整个车队的能力要求是非常高的。

  彭震认为,大模型不应是简单粗暴的“暴力计算”,算力系统构建也不是算力的简单堆积,而是一项复杂的系统工程,需要从多个方面进行系统化的设计架构。包括要解决如何实现算力的高效率、要解决算力系统如何保持线性可扩展以及算力系统长效稳定训练问题等。

  “因此,化解大模型‘建不了’难题,根源在于提升算力效率。但目前业界开源项目主要集中在框架、数据、神经网络乃至模型等软件及算法层面,硬件优化的方法由于集群配置的差异,难以复用 而普遍处于封闭状态。这就需要具备大模型实践的公司将集群优化经验予以工程化,以硬件开源项目、技术服务等多种方式,帮助更多公司解决算力效率低下的难题。”彭震说。

  此外,还要通过模型训练工具化,解决“算不好”难题。彭震表示,解决“算不好”难题,根本上要保障大模型训练的长时、高效、稳定训练的问题。例如,大模型训练过程的失效故障,大模型训练会因此中断,不得不从最新的检查点重新载入以继续训练,这个问题在当前是不可避免的。提高算力系统的可持续性,不仅需要更多机制上的设计,更依赖于大量自动化、智能化的模型工具支撑。

  2021年,肖某在“杂交水稻之父”、共和国勋章获得者、中国工程院院士袁隆平因病逝世、举国悲痛之际,无视公序良俗和道德底线,使用昵称“坚持底线”的微信号,先后在微信群“白翎村村民信息群”(群成员499人)内发布2条信息,歪曲事实诋毁、侮辱袁隆平院士,侵害英雄名誉、荣誉,引起群内成员强烈愤慨,造成恶劣社会影响。湖南省韶山市人民检察院提起公诉,认为被告人肖某的行为构成侵害英雄烈士名誉、荣誉罪,建议判处管制六个月。

  2022年8月22日,任正非在《整个公司的经营方针要从追求规模转向追求利润和现金流》(以下简称《经营方针》)一文内提到,全球消费能力下降的情况,华为应改变思路和经营方针,从追求规模转向追求利润和现金流,保证度过未来三年的危机。

  11月26日以来,受强冷空气影响,我国自北向南经历了一轮大范围寒潮降温过程,目前仍在持续,这也是今年冬天以来最强的一次寒潮天气。此次寒潮降温剧烈、风力大、影响范围广,波及30余个省(自治区、直辖市),多地累计降温幅度可达15℃,局地可达20℃以上,并伴有雨雪天气。

  中山大学附属第三医院感染性疾病科教授、广州黄埔方舱医疗队负责人崇雨田教授接受媒体采访时表示,“一些传染病的患者,在恢复期结束后,某些器官的功能长期未能恢复正常,才会被认为是后遗症。”对于新冠感染者而言,有的人临床表现可能持续比较长,比如味觉嗅觉丧失、关节痛、记忆力下降、胸口疼痛、咳嗽等,有的学者把这些称为“长新冠”。崇雨田认为,这些不能将其归类为“新冠肺炎的后遗症”,“目前学界并未确认新冠肺炎有后遗症。至少尚没有证据表明有后遗症。”

  往年的四季度正是外贸企业的旺季,也是年末冲刺抢抓订单的好时机。但受前述原因的影响,外贸进出口进一步承压。中国采购经理指数显示,11月生产指数为47.8%,比上月下降1.8个百分点,继续位于临界点以下;新订单指数为46.4%,比上月下降1.7个百分点,其中新出口订单指数为46.7%,比上月下降0.9个百分点,制造业生产和国内外市场需求均有所回落。

  12月1日,为了应对寒潮天气,保障畜禽安全过冬,最大程度降低灾害损失,农业农村部畜牧兽医局组织畜牧生产专家编制并发布了《畜牧业应对寒潮暴雪天气技术指导意见》。

王宗芝

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有