数码之家

 找回密码
 立即注册
搜索
查看: 1088|回复: 2

[评论] 研究者:AI模型推理环节耗电更多,2027年行业用电将堪比荷兰

[复制链接]
发表于 2023-10-14 22:11:09 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册

x
《Cell》的姐妹期刊《Joule》本周出版了一篇名为《持续成长的人工智慧能源足迹(The growing energy footprint of artificial intelligence)》论文。
IT之家经过查询得知,该论文由科研机构 Digiconomist 创始人 Alex De Vries 发表,其声称未来 AI 推理性能可能会消耗大量的电力,而到 2027 年,AI 的用电量可能等同于荷兰一年的电力使用。
Alex De Vries 表示,外界一向认为训练一个 AI 模型“AI 最耗电的阶段”,但 Vries 引用了 SemiAnalysis 及谷歌的报告指出,“推论环节”所消耗的电力更多,自 2019 年到 2021 年,与 AI 相关的能源消耗中,预计有 60% 来自模型推论。

                               
登录/注册后可看大图
▲ 图源 相关论文
Alex De Vries 同时以谷歌在 2021 年披露的 18.3 TWh 耗电量来计算,声称当时 AI 占了谷歌公司整体耗电量的 10%-15%,而在谷歌全面实施“AI 搜索”之后,该公司在 AI 方面的耗电量最高可能达到 27.4 TWh,接近爱尔兰一整年所使用的电力(29.3 TWh)。
就整个市场来看,随着英伟达合作伙伴台积电(TSMC)所投资的新 CoWoS 厂预计于 2027 年量产,Alex De Vries 也估计届时英伟达所交付的全数 AI 服务器总用电量将达 85-134 TWh,相当于荷兰一年的电力使用。

                               
登录/注册后可看大图
▲ 图源 相关论文
Alex De Vries 认为,AI 产业应当提高硬件效率,改善模型演算效率,以改善产业的耗电情况,他还建议开发者不仅应专注于优化 AI,也必须考虑使用 AI 的必要性,以降低 AI 行业的耗能成本。

发表于 2023-10-15 02:04:59 | 显示全部楼层
AI模型推理环节耗电多,这个早已知道,耗电多归多,还是不会有公司停下脚步的
回复 支持 反对

使用道具 举报

发表于 2023-10-15 02:05:03 | 显示全部楼层
AI模型推理环节耗电多,这个早已知道,耗电多归多,还是不会有公司停下脚步的
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2024-5-1 10:42 , Processed in 0.358801 second(s), 14 queries , Redis On.

Powered by Discuz!

© 2006-2023 smzj.net

快速回复 返回顶部 返回列表