算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 未来网
2024-07-01 02:30:02

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不 可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  <a target='_blank' href='/' >中新网</a>柳州2月3日电 题:行走在深山里的“独行侠”

  “去年,我们村被评为浙江省3A旅游村庄,今年我们将朝着省级4A旅游村庄的目标继续努力。在此过程中,我希望通过自己的讲述,让更多人看到中国乡村的魅力。”黄巨栋说。

  排球在波兰有着深厚的群众基础,是仅次于足球的最受欢迎的运动之一。波兰男排目前排名世界第一,波兰排球联赛也是世界顶级排球联赛之一,共有16支球队,格但斯克目前在少赛一场的情况下排名第七。

  一位互联网从业人员表示,“上门代厨”主要以网络社交平台为沟通媒介,且年轻群体是各类社交平台的主要用户,依托平台即时通讯的特点,双方相互交流更方便、高效。“客户大都是年轻人,通过‘上门代厨’,我还结交了不少朋友。”加入“代厨”队伍有一段时间的“90后”退伍军人大鹏说。

  据介绍,2021年以来,北海市高标准、高质量推动林长制工作,出台推行林长制实施方案、设置林长制公示牌、成立各级林长办公室、制定各级林长制配套制度,为湿地公园做好保护修复工作提供强有力的制度体系保障。通过开展湿地保护管理、红树林保护修复、湿地保护宣传教育、资源监测、合理利用等一系列湿地保护工作,生物多样性日趋丰富。

  海关提醒:海关根据国家法律法规的规定,对与进出口货物有关并受中华人民共和国法律、行政法规保护的商标专用权、著作权和与著作权有关的权利、专利权、世界博览会标志、奥利匹克标志等实施保护,维护权利人合法权益。(完)

孙冠儒

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有