算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 中国新闻网
2024-07-02 07:42:14

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能 充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  济南市工业和信息化局副局长文海生介绍说,济南市将从数字产业化、产业数字化、算网一体化3个方面发力,加快培优塑强数字经济发展新优势,着力打造国内数字产业化发展核心区、产业数字化转型示范区、算网一体化建设引领区。“济南将完善提升新一代信息技术装备产业链,以部省市共建‘中国算谷’重大产业生态项目为依托,加大上下游招引力度,加大核心技术攻关,巩固提升服务器产业优势。”

  问答如下:

  为确保钢轨检修工作落实到位,该段组织包保和检修人员重点做好沿线道岔群、长大曲线、隧道、桥涵等处所的防控,组织各线路车间、工区对钢轨、道岔和夹板焊缝进行“地毯式”拉网巡查,定岗、定人、定时对安全关键处所和薄弱环节进行包保卡控,干部跟班作业和指导,将巡查结果、整修方案、整改效果登记造册,及时分析处理,每处检修处所复核验证,闭环销号。

  一是进一步明确主板定位。深市主板自成立以来,坚持服务实体经济的根本宗旨,支持上市公司利用资本市场做优做强,涌现一批影响力大、创新力优、竞争力强的蓝筹企业和细分行业冠军。全面实行注册制下,深市主板定位将进一步突出大盘蓝筹市场特色,重点支持业务模式成熟、经营业绩稳定、规模较大、具有行业代表性的优质企业。由此,相应设计多元包容的上市条件,并与创业板拉开距离。

  <a target='_blank' href='/' >中新网</a>记者近期在采访中发现,智能化、高效化、绿色化成为盱眙工业发展的新名片,当地聚焦优化营商环境,“一切围绕项目转、一切围绕项目干”,为经济增长与高质量发展提供坚实支撑。

  与此同时,税务部门坚持打防结合、以防为主,坚决不让政策“红包”落入不法分子“腰包”。“一方面依托税收大数据及时精准发现风险,分类快速应对处置。另一方面,税务、公安、检察、海关、人民银行、外汇管理六部门将打击骗取留抵退税纳入常态化打击虚开骗税工作机制,加大对团伙式、跨区域和恶意造假骗取留抵退税的打击震慑力度,坚持打早打小、露头就打,挽回税款损失155亿元。”荣海楼说。

张雅慧

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有