ChatGPT 耗电量惊人,月平均耗电量可供17.5万丹麦人使用一个月

图片[1]-ChatGPT 耗电量惊人,月平均耗电量可供17.5万丹麦人使用一个月-弦外音

研究机构Towards Data Science分析发现,OpenAI在1月运行ChatGPT时平均耗电23,364,000千瓦,相当于17.5万个丹麦人每月的用电量。这表明大型语言模型会对环境造成昂贵的代价。

早前,大型语言模型BLOOM利用16颗Nvidia A100 40GB GPU在Google云端平台上运行18天。它平均每小时处理558个请求,并消耗了914千瓦的能量。由于BLOOM和ChatGPT-3的模型大小相似(参数分别为176b和175b),因此可以以BLOOM的能源消耗作为参考。

据估计,今年1月份ChatGPT连接次数达到了5.9亿次。假设每次连接查询不超过10次,并且每次查询所需的能量与BLOOM相同,则该系统每小时消耗0.00396千瓦。根据这些数据,Towards Data Science计算出,在2021年1月期间,ChatGPT平均使用了23364000千瓦时电力,相当于17.5万个丹麦人一个月的用电量。

除此之外,Towards Data Science还指出,在训练GPT-3时OpenAI每小时消耗了1287兆瓦,并排放出552吨二氧化碳,对自然环境造成了严重的伤害。

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享
评论 抢沙发
头像
欢迎您留下宝贵的见解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容