ChatGPT日耗电超50万度,大模型或带来“电荒”

ChatGPT日耗电超50万度,大模型或带来“电荒”

来源:羊城晚报•羊城派2024-03-11

未来两年内将由“缺硅”变为“缺电”,马斯克的预言可能正在变成现实。

据《纽约客》杂志报道,OpenAI的热门聊天机器人ChatGPT每天可能要消耗超过50万千瓦时的电力,以响应用户的约2亿个请求。相比之下,美国家庭平均每天使用约29千瓦时电力,也就是说,ChatGPT每天用电量是家庭用电量的1.7万多倍。

实际上,此前就有数据显示,ChatGPT训练时就已耗电量巨大。根据斯坦福人工智能研究所(HAI)发布的《2023年人工智能指数报告》,OpenAI的GPT-3单次训练耗电量高达1287兆瓦时(1兆瓦时=1000千瓦时)。

这是什么概念?知名计算机专家吴军的形容并不夸张:大概是3000辆特斯拉电动汽车、每辆跑到约32万公里的总耗电量。

国盛证券估算,GPT-3的单次训练成本就高达140万美元,对于一些更大的LLM(大型语言模型),训练成本介于200万美元至1200万美元之间。

而业内人士表示,大模型训练成本中60%是电费。

训练完成后,ChatGPT也仍然需要大量的计算能力来运行,并因此耗费大量能源,OpenAI每天在ChatGPT上的花费就高达70万美元。

不仅ChatGPT的耗电量惊人,其他人工智能软件的开发也在加剧对用电量的需求。以谷歌为例,其人工智能训练的耗电量占该公司总用电量的10%至15%,也就是每年耗电量在23亿度左右,而这相当于美国一个州首府所有家庭一年的用电量。

即使是由人工智能初创公司 Hugging Face 搭建的更为高效的BLOOM模型,耗电量也达到433兆瓦时,足以为一个普通美国家庭供电41年。

可以预见的是,如果生成式AI被进一步采用,耗电量有可能会更多。所以,大家为人工智能所描绘的盛世图景欢呼时,也应留意到盘踞在其上方的阴影——电力成本。

一项研究曾指出,在未来几年中,与人工智能相关的能源消耗很可能会显著增加。到2027年,生成式人工智能所消耗的能源可以为荷兰大小的国家提供一年的电力,相当于约85-134太瓦时(TWh)。

所以,很多人正在担心,随着人工智能的突飞猛进,“电荒”会否真的发生。特斯拉CEO马斯克就曾预言,未来两年内将由“缺硅”变为“缺电”,而这可能阻碍人工智能的发展。在他看来,电力短缺可能会造成严重后果,就像最近缺芯阻碍科技和汽车行业一样。

文|记者 冷爽

无障碍
推荐 | 要闻 重庆 两江评 | 区县 教育 文艺 | 健康 财经 生活 | 问政 汽车 直播 | 政法 视听 专题 | 鸣家 史家 旅游 | 房产 国企 原创 | 应急 信用 新闻发布
  • 站内
站内
分享
新浪微博

ChatGPT日耗电超50万度,大模型或带来“电荒”

2024-03-11 09:54:09 来源:

未来两年内将由“缺硅”变为“缺电”,马斯克的预言可能正在变成现实。

据《纽约客》杂志报道,OpenAI的热门聊天机器人ChatGPT每天可能要消耗超过50万千瓦时的电力,以响应用户的约2亿个请求。相比之下,美国家庭平均每天使用约29千瓦时电力,也就是说,ChatGPT每天用电量是家庭用电量的1.7万多倍。

实际上,此前就有数据显示,ChatGPT训练时就已耗电量巨大。根据斯坦福人工智能研究所(HAI)发布的《2023年人工智能指数报告》,OpenAI的GPT-3单次训练耗电量高达1287兆瓦时(1兆瓦时=1000千瓦时)。

这是什么概念?知名计算机专家吴军的形容并不夸张:大概是3000辆特斯拉电动汽车、每辆跑到约32万公里的总耗电量。

国盛证券估算,GPT-3的单次训练成本就高达140万美元,对于一些更大的LLM(大型语言模型),训练成本介于200万美元至1200万美元之间。

而业内人士表示,大模型训练成本中60%是电费。

训练完成后,ChatGPT也仍然需要大量的计算能力来运行,并因此耗费大量能源,OpenAI每天在ChatGPT上的花费就高达70万美元。

不仅ChatGPT的耗电量惊人,其他人工智能软件的开发也在加剧对用电量的需求。以谷歌为例,其人工智能训练的耗电量占该公司总用电量的10%至15%,也就是每年耗电量在23亿度左右,而这相当于美国一个州首府所有家庭一年的用电量。

即使是由人工智能初创公司 Hugging Face 搭建的更为高效的BLOOM模型,耗电量也达到433兆瓦时,足以为一个普通美国家庭供电41年。

可以预见的是,如果生成式AI被进一步采用,耗电量有可能会更多。所以,大家为人工智能所描绘的盛世图景欢呼时,也应留意到盘踞在其上方的阴影——电力成本。

一项研究曾指出,在未来几年中,与人工智能相关的能源消耗很可能会显著增加。到2027年,生成式人工智能所消耗的能源可以为荷兰大小的国家提供一年的电力,相当于约85-134太瓦时(TWh)。

所以,很多人正在担心,随着人工智能的突飞猛进,“电荒”会否真的发生。特斯拉CEO马斯克就曾预言,未来两年内将由“缺硅”变为“缺电”,而这可能阻碍人工智能的发展。在他看来,电力短缺可能会造成严重后果,就像最近缺芯阻碍科技和汽车行业一样。

文|记者 冷爽

亲爱的用户,“重庆”客户端现已正式改版升级为“新重庆”客户端。为不影响后续使用,请扫描上方二维码,及时下载新版本。更优质的内容,更便捷的体验,我们在“新重庆”等你!
看天下
[责任编辑: 李辉 ]
发言请遵守新闻跟帖服务协议
精彩视频
版权声明:
联系方式:重庆华龙网集团股份有限公司 咨询电话:60367951
①重庆日报报业集团授权华龙网,在互联网上使用、发布、交流集团14报1刊的新闻信息。未经本网授权,不得转载、摘编或利用其它方式使用重庆日报报业集团任何作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”或“来源:华龙网-重庆XX”。违反上述声明者,本网将追究其相关法律责任。
② 凡本网注明“来源:华龙网”的作品,系由本网自行采编,版权属华龙网。未经本网授权,不得转载、摘编或利用其它方式使用。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:华龙网”。违反上述声明者,本网将追究其相关法律责任。
③ 华龙网及其客户端标明非华龙网的确定来源或未标注华龙网LOGO、名称、水印的文字、图片、音频、视频等稿件均为非原创作品。如转载涉及版权等问题,请及时与华龙网联系,联系邮箱:cqnewszbs@163.com。
附:重庆日报报业集团14报1刊:重庆日报 重庆晚报 重庆晨报 重庆商报 时代信报 新女报 健康人报 重庆法制报 三峡都市报 巴渝都市报 武陵都市报 渝州服务导报 人居周报 都市热报 今日重庆
关闭