该工具估计聊天机器人消息消耗多少电量
曾经想知道提示或感谢AI模型时使用了多少电力?拥抱面部工程师朱利安·德拉万德(Julien Delavande)做到了,所以他建立了一个工具来帮助得出答案。
AI模型每次运行时都消耗能量。它们是在GPU和专门的芯片上运行的,这些芯片需要大量的功能才能大规模执行相关的计算工作负载。固定模型功耗并不容易,但是人们普遍期望,不断增长的AI技术的使用将使电力需求在未来几年内提高到新的高度。
对更多动力AI的需求导致一些公司采取环保策略。诸如Delavande之类的工具旨在引起人们的注意,并可能让一些AI用户停下来。
“即使是少量节能也可以在数百万查询中扩展 - 模型选择或输出长度可能会带来重大的环境影响,” Delavande和TOOL的其他创作者在一份声明中写道。
⚡️曾经想知道每次向Chatgpt发送消息时都会使用多少能量?
我们刚刚构建了一个CHAT UI的版本,该版本显示了您的消息消耗的能量。所有聊天机器人都应该显示吗?
详细信息下面👇👇pic.twitter.com/tbl0pw51pw
- Delavande Julien(@Juliendelavande)2025年4月22日
Delavande的工具旨在与CHAT UI合作,Chat UI是Meta的Llama 3.3 70B和Google的Gemma 3等型号的开源前端。该工具估计了实时发送和从模型发送的消息的能源消耗,报告了Watt-hours或Joules的消耗量。它还将模型的能源使用与普通家用电器(如微波和LED)进行了比较。
根据该工具,要求Llama 3.3 70B撰写典型电子邮件的使用大约0.1841瓦小时 - 相当于运行微波炉0.12秒或使用烤面包机持续0.02秒。
TechCrunch活动 TechCrunch会议展览:AI 在TC会议上确保您的位置:AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。可在5月9日或桌子上持续使用。 TechCrunch会议展览:AI 在TC会议上确保您的位置:AI并显示1,200多个决策者您已经建立的东西 - 而没有大笔支出。可在5月9日或桌子上持续使用。 加利福尼亚州伯克利 | 6月5日 立即预订值得记住的是,该工具的估计仅为估计。 Delavande没有声称他们非常精确。尽管如此,它们还是提醒您,包括聊天机器人的一切都有成本。
“随着AI能量分数和对AI能量足迹的更广泛研究,我们’重新推动开源社区的透明度。有一天,能源使用可能与食物上的营养标签一样可见!” Delavande和他的共同创造者写道。
发布评论