算力管理复杂、训练成本过高,专家谈AI困境如何破解

来源: 钱江晚报
2024-07-01 00:57:51

  中新网6月29日电(中新财经记者 吴涛)“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈。”

  近日,在蚂蚁数科举行的一场发布会上,中国信息通信研究院云大所副所长栗蔚指出,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

  栗蔚表示,根据调研,云原生除了作用于AI之外,之前它作用于很多互联网应用的研发,超过一半中国企业大部分互联网化应用程序都是云原生的架构,甚至传统的核心架构现在也都在云化。

  据介绍,在AI时代,因为大模型对算力需求很大,GPT3.5的时候是1750亿参数,需要500个英伟达的卡,到了GPT5是10万亿的参数,需要50万张英伟达的卡。这种情况下,云将发挥出新的关键作用。

  “50万张英伟达卡计算是不可能在一个数据中心完成的,所以很多大模型计算跨域不可避免,但跨域以后对方是英伟达的卡吗?或者智算底层基础设施都不一定。这种情况下,我们需要什么?中间谁能把应用部署在算力上跑起来呢?”

  栗蔚给出答案,她认为,就是云,AI时代几个发展瓶颈问题基本都是要靠云原生满足的。云原生屏蔽了底层算力的差异,其应用不在乎你底下是CPU还是GPU,还是用了什么样的规格的卡,我只是将应用部署在上面,用你的计算能力,所以云原生发挥了这样的作用。

  “很多企业通过用了云原生,对于底下上千台服务器进行统一的纳管,从而全方位提升 效率和降低成本。”栗蔚强调,云跟AI结合才能充分降低AI的工程化成本,让AI大模型真实地跑起来变成服务。(完)

  授人以鱼,不如授人以渔。“希沃杏坛计划”关注教师专业成长,为一线教师的能力提升和个人发展提供学习交流的机会。目前,杏坛计划已形成覆盖幼儿教育、基础教育、职业教育等多领域的学科融合培训体系,开设线上线下混合培养课程,让资深教师与年轻教师共同交流合作、分享经验,搭建“以师育师”的成长路径。截至2022年6月,已有13万余名教师加入其中。

  <strong>记者:网课,将家庭教育中存在的问题集中显现。懒散,磨蹭,管不住自己,不把学习当回事,没有内驱力……谈起自己孩子疫情防控期间的居家学习,一些家长抱怨,在家好吃好喝照应着,学习却废了。一个紧迫课题摆在眼前:如何教会孩子认清学习的意义,做到自律专注,目标笃定,情绪平和,明白事情的缓急轻重,知晓如何取舍。</strong>

  一个饱经沧桑而初心不改的党,才能基业常青;一个铸就辉煌仍勇于自我革命的党,才能无坚不摧。新时代新征程,时刻保持解决大党独有难题的清醒和坚定,一刻不停推进全面从严治党,立志于中华民族千秋伟业的中国共产党一定能在自我革命中焕发蓬勃生机,团结带领人民战胜一切风险挑战,不断谱写新时代中国特色社会主义更加绚丽的华章!

  年轻人的冲劲儿和真诚让他们赢得了不少客户的青睐。“很多客户都是技术狂热者,有时候不仅要通过技术打动客户,还需要通过我们的创业热情让客户理解我们,进而支持我们、选择我们”。仅2019年,他和销售总监一起出差谈合作,“一年就飞了近100次”。

  体育要做手抄报

<strong>  泰国迎来首个中国出境旅游团</strong>

林皇辰

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有