研究机构Towards Data Science分析发现,OpenAI在1月运行ChatGPT时平均耗电23,364,000千瓦,相当于17.5万个丹麦人每月的用电量。这表明大型语言模型会对环境造成昂贵的代价。
早前,大型语言模型BLOOM利用16颗Nvidia A100 40GB GPU在Google云端平台上运行18天。它平均每小时处理558个请求,并消耗了914千瓦的能量。由于BLOOM和ChatGPT-3的模型大小相似(参数分别为176b和175b),因此可以以BLOOM的能源消耗作为参考。
据估计,今年1月份ChatGPT连接次数达到了5.9亿次。假设每次连接查询不超过10次,并且每次查询所需的能量与BLOOM相同,则该系统每小时消耗0.00396千瓦。根据这些数据,Towards Data Science计算出,在2021年1月期间,ChatGPT平均使用了23364000千瓦时电力,相当于17.5万个丹麦人一个月的用电量。
除此之外,Towards Data Science还指出,在训练GPT-3时OpenAI每小时消耗了1287兆瓦,并排放出552吨二氧化碳,对自然环境造成了严重的伤害。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
暂无评论内容