该工具估计聊天机器人消息消耗多少电量

曾经想知道提示或感谢AI模型时使用了多少电力?拥抱面部工程师朱利安·德拉万德(Julien Delavande)做到了,所以他建立了一个工具来帮助得出答案。

该工具估计聊天机器人消息消耗多少电量

AI模型每次运行时都消耗能量。它们是在GPU和专门的芯片上运行的,这些芯片需要大量的功能才能大规模执行相关的计算工作负载。固定模型功耗并不容易,但是人们普遍期望,不断增长的AI技术的使用将使电力需求在未来几年内提高到新的高度。

对更多动力AI的需求导致一些公司采取环保策略。诸如Delavande之类的工具旨在引起人们的注意,并可能让一些AI用户停下来。

“即使是少量节能也可以在数百万查询中扩展 - 模型选择或输出长度可能会带来重大的环境影响,” Delavande和TOOL的其他创作者在一份声明中写道。

⚡️曾经想知道每次向Chatgpt发送消息时都会使用多少能量?

我们刚刚构建了一个CHAT UI的版本,该版本显示了您的消息消耗的能量。所有聊天机器人都应该显示吗?

详细信息下面👇👇pic.twitter.com/tbl0pw51pw

- Delavande Julien(@Juliendelavande)2025年4月22日

Delavande的工具旨在与CHAT UI合作,Chat UI是Meta的Llama 3.3 70B和Google的Gemma 3等型号的开源前端。该工具估计了实时发送和从模型发送的消息的能源消耗,报告了Watt-hours或Joules的消耗量。它还将模型的能源使用与普通家用电器(如微波和LED)进行了比较。

根据该工具,要求Llama 3.3 70B撰写典型电子邮件的使用大约0.1841瓦小时 - 相当于运行微波炉0.12秒或使用烤面包机持续0.02秒。

TechCrunch活动 TechCrunch会议展览:AI 在TC会​​议上确保您的位置:AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。可在5月9日或桌子上持续使用。 TechCrunch会议展览:AI 在TC会​​议上确保您的位置:AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。可在5月9日或桌子上持续使用。 加利福尼亚州伯克利 | 6月5日 立即预订

值得记住的是,该工具的估计仅为估计。 Delavande没有声称他们非常精确。尽管如此,它们还是提醒您,包括聊天机器人的一切都有成本。

“随着AI能量分数和对AI能量足迹的更广泛研究,我们’重新推动开源社区的透明度。有一天,能源使用可能与食物上的营养标签一样可见!” Delavande和他的共同创造者写道。

avatar

知识全能王 管理员

发布了:23881篇内容
查阅文章

发布评论

验证码

QQ交谈

在线咨询:QQ交谈

工作时间:每天9:00 - 18:00
若无特殊,节假日休息

我的微信