算力狂飙电力承压 英伟达、英特尔争相推出节能方案
时间:2024-09-02 07:25:20 来源:<新程序_sjbxin> 责任编辑:约翰·博耶加,卡莉·史派妮,斯科特·伊斯特伍德,景甜,伯恩·戈曼,查理·戴,阿德里娅·阿霍纳,张晋,菊地凛子,卡兰·布拉尔,黄恺杰,伊万娜·萨赫诺,新田真剑佑,吉丽,雪莉·罗德里格斯,拉哈特·亚当斯,列维·米登,达斯汀·克莱尔,陈梓童,于小伟,钱泳辰,齐柏林·汉密尔顿,郭家铭,蓝盈莹,尼克·塔拉贝,沙恩·朗吉,戴杰,尼克·萨特里亚诺,丹尼尔·弗雷里格尔,金桢勋,菊池润美,玛德琳·麦格劳,乔什·斯坦伯,斯蒂芬妮·阿琳,卢克·朱迪,布里德基·萨蒂纳,小蒂姆·约翰逊,埃里克·阿达尔,Nancy Nugent,萨

  每经记者 文巧 实习记者 岳楚鹏    每经编辑 高涵    

  当地时间8月26日,OpenAI硬件设施负责人Trevor Cai在Hot Chips 2024上发表了长达一小时的演讲,主题为“构建可扩展的AI基础设施”。他指出,OpenAI的一项重要观察结果是,扩大规模可以产生更好、更有用的人工智能(AI)。

  作为全球芯片行业影响力最大的会议之一,Hot Chips于每年8月份在斯坦福大学举行。不同于其他行业会议以学术研究为主,Hot Chips是一场产业界的盛会,各大处理器公司会在每年的会上展现他们最新的产品以及在研的产品。

  《每日经济新闻》记者注意到,AI浪潮推动数据中心激增,同时也伴随着能源需求的激增。在这样的背景下,此次的Hot Chips大会上,围绕人工智能的议题比以往任何一届都更加活跃。Trevor Cai的演讲着眼于解决能源和算力之间的问题,英特尔、IBM和英伟达等则是提出了更节能的技术方案。

  摩根士丹利在8月份发布的研究中预测称,生成式AI的电力需求将在未来几年内每年飙升75%,预计到2026年,其消耗的能源量将与西班牙在2022年的消耗量相当。科技巨头们该如何应对能源挑战?

  聚焦“节能方案”

  当地时间8月26日,一年一度的半导体企业盛会Hot Chips2024在斯坦福大学纪念礼堂举行,今年是第36届。

  从会议第一天的情况来看,大部分的话题都集中在了更节能、安全且可扩展的大规模AI服务器部署方案上。

  OpenAI硬件负责人Trevor Cai发表了“可预测的扩展和基础设施”主题演讲,谈到了提升计算能力所带来的可预测的扩展效益,这也是OpenAI自成立之初就关注的重点。一个重要的观察结果是,扩大规模可以产生更好、更有用的人工智能。“每次计算量翻倍,都会得到更好的结果。模型的能力和计算资源的消耗是呈指数级别上升的。自2018年以来,行业中前沿模型的计算量每年增长约4倍。”他说道。

  最初,GPT-1只需几周的时间完成训练。如今,它已经扩展到需要庞大的GPU集群。因此,OpenAI认为AI的基础建设需要大量投资,因为计算能力的提升已经产生了超过8个数量级的效益。

  似乎是为了呼应OpenAI的演讲,各大公司的演讲也不约而同地提到了大规模部署AI服务器的计划方案。

  IBM在大会上披露了即将推出的IBM Telum II处理器和IBM Spyre加速器的架构细节。新技术旨在显著扩展下一代IBM Z大型机系统的处理能力,通过一种新的AI集成方法帮助加速传统AI模型和大型语言 AI模型的协同使用。IBM特别强调这次更新的先进I/O技术旨在降低能耗和数据中心占用空间。

  英伟达也在大会上放出了最新的AI集群架构Blackwell的相关消息。英伟达称,Blackwell拥有6项革命性技术,可支持多达 10万亿参数的模型进行AI训练和实时大语言模型(LLM)推理。值得注意的是,英伟达的Quasar量化系统用于确定可以使用较低精度的内容,从而减少计算和存储。英伟达表示他们的宗旨就是在提高能源效率的同时为AI和加速计算性能提供新标准。

  除此之外,英特尔、博通、海力士等公司的演讲中均提到了更节能的技术方案。

  能源需求激增

  科技巨头们着眼“更节能的”技术方案的根本原因在于,当前人工智能热潮正在增加更强大的处理器以及保持数据中心冷却所需的能源需求。

  当前,微软、Alphabet和Meta等大型科技公司正在投资数十亿美元建设数据中心基础设施,以支持生成式人工智能,但数据中心的激增也伴随着能源需求的激增。

  据彭博社报道,仅去年,大型科技公司就向数据中心设施投入了约1050亿美元。谷歌、苹果和特斯拉等公司不断通过新产品和服务增强AI能力。每项AI任务都需要巨大的计算能力,这意味着数据中心会消耗大量电力。国际能源署(IEA)预测,到2026年,全球数据中心每年使用的能源量将相当于日本的电力消耗量。

  Hugging Face的人工智能和气候负责人Sasha Luccioni提到,虽然训练AI模型需要耗费大量能源(例如,训练 GPT-3模型耗费了大约1300兆瓦时的电力,而GPT-4的训练消耗是GPT3的50倍),但通常只进行一次。然而,由于查询量巨大,模型生成响应可能需要更多能源。

  例如,当用户向ChatGPT等AI模型提问时,需要向数据中心发送请求,然后强大的处理器会生成响应。这个过程虽然很快,但消耗的能量也是巨大的。根据艾伦人工智能研究所的数据,对ChatGPT进行一次查询所消耗的电量相当于为灯泡点亮20分钟,是简单Google搜索耗电量的10倍以上。

  然而,全球的电力资源有限,而数据中心需要持续稳定的电力供应来运行服务器和其他核心运营设备。如果能源供应不稳定,停机可能会给企业和其他用户造成重大经济损失。此外,巨大的能源消耗也引发了人们对环境的担忧。

  为应对这一挑战,科技公司们开始寻找解决方案。

  部分公司选择更清洁且高效的能源供给,如核能。亚马逊最近在美国宾夕法尼亚州东北部购买了一个价值6.5亿美元的核能数据中心园区设施,该设施将使用核反应堆产生的高达40%的电力,最终使亚马逊能够减少对当地电网的依赖。与此同时,微软聘请了核专家来带头寻找这种替代电源。微软还与核电站运营商签订了合同协议,为其位于弗吉尼亚州的一个数据中心提供电力。

  除此之外,科技公司们不仅在前文所提到的一系列芯片节能技术进行努力,也在其他硬件设施和技术上下足了功夫。

  谷歌正在开发人工智能专用芯片,例如张量处理单元(TPU),这些芯片针对人工智能任务进行了优化,而不是使用为游戏技术创建的图形处理单元(GPU)。

  英伟达针对Blackwell芯片的直接液体冷却系统还宣布了一项研究,研究表明了如何重新利用从服务器中吸收的热量并将其回收到数据中心。据英伟达估计,冷却最多可减少数据中心设施耗电量的28%。

  然而,威斯康星大学麦迪逊分校的教授辛克莱提醒,杰文斯悖论在这里依然适用。“提高人工智能的效率,虽然减少了单次能耗,但整体使用率的增加最终会导致总体能耗的上升。”辛克莱解释道。这个悖论不仅适用于19世纪的火车煤炭使用,同样适用于当今的人工智能和电力消耗。

“车已经安排好了,佛森女士。”服部芽衣很恭敬的样子。

凡凡将夏雷领导了门外的走廊里,“开幕式很快就要开始了,我知道你从来没有经历过现场的辩论,我给你准备了一些东西,待会儿你可能会用上。”她将手里的一只文件袋递给了夏雷。

夏雷没好气地道:“大清早的才起床又去睡觉,你是猪啊?别闹了,吃了早饭我们还得去洛克希德马丁公司的总部。”

“你现在很矛盾,很不好受,我不知道该怎么安慰你……”梁思瑶温柔地道:“不过我要你知道,我和你在一起,还有我们的孩子。”

酒店顶楼,被两个FA组织的武装人员拦下来的凯特琳大哭大闹。算力狂飙电力承压 英伟达、英特尔争相推出节能方案夏雷的心中一动,“她怎么样了?”

ofbaqh1RlE5
相关报道
    分享到:

    中共中央政法委员会主办

    Copyright 2015 www.chinapeace.gov.cn All Rights Reserved 京ICP备 14028866 号-1中国长安网 © 2017版权所有

    国产馒头高清泬20p多毛

    胡桃腿法娴熟脚

    和金毛做了四年都没事人新闻

    <新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>MB
    版本V<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>
    国产 高潮 白浆 喷水 安装你想要的应用 更方便 更快捷 发现更多
    国产抖阴
87%好评(<新程序_随机数><新程序_随机数><新程序_随机数>人)
    拔萝卜未删减版9.1 62
    详细信息
    • 软件大小: <新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>MB
    • 最后更新: 2024-09-02 07:25:20
    • 最新版本: V<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>
    • 文件格式: apk
    • 应用分类:ios-Android
    • 使用语言: 中文
    • : 需要联网
    • 系统要求: 5.41以上
    应用介绍
    一,白蜜瓜视频,8x华为海外免费官网
    二,8x8x华人永久免费观看
    三,91抖音
    四,丁 婷婷影院 了
    五,彩虹男gary视频
    六,XXX HD videos2022
    七,爱情讨论坛
    【联系我们】
    客服热线:139-2551-646
    加载更多
    版本更新
    V<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>.<新程序_随机数><新程序_随机数>
    快色apk下载

    猜你喜欢

    包含 饿了么 的应用集
    评论
    • jk女生自慰 <新程序_随机数>天前
      豆奶导航
    • 黄色网站软件免费下载 <新程序_随机数>天前
      137肉体摄影中国免费视频
    • 纲手黄本子 <新程序_随机数>天前
      3d布衣图精华
    • ysl千人千色t9t9t9t9MBA <新程序_随机数>天前
      2048核基地新发布
    • 51吃瓜今日吃瓜入口 <新程序_随机数>天前
      av夜色
    • 91麻豆蜜桃 <新程序_随机数>天前
      jul-162人妻秘书汗と接吻
    • 好色先生TV版 <新程序_随机数>天前
      火影忍者女忍者的耐力测试图片
    • 黄色应用下载华为无限 <新程序_随机数>天前
      黄色标志的软件下载vivo
    • 胡桃×史莱姆ドラえもんエ口 <新程序_随机数>天前
      399.3u吃
    • 黄色aqqoppo版 <新程序_随机数>天前
      黑土的腿法娴熟