Ironwood是Google最新的AI加速器芯片
在本周的云下一次会议上,Google推出了最新一代的TPU AI加速器芯片。
新芯片称为Ironwood,是Google的第七代TPU,是对推理的首次优化,即运行AI模型。 Ironwood计划于今年晚些时候针对Google Cloud客户推出,将有两种配置:256芯片群和9,216芯片群集。
“ Ironwood是我们最强大,有能力和节能的TPU,” Google Cloud VP Amin Vahdat在提供给TechCrunch的博客文章中写道。 “这是针对权力思维的专门制造的,推论的AI模型。”
Ironwood随着AI加速器空间的竞争加热而到来。 Nvidia可能有领先地位,但是包括亚马逊和微软在内的技术巨头正在推动自己的内部解决方案。亚马逊拥有通过AWS获得的火车,推理和Graviton处理器,MicrosofT主持其Maia 100 AI芯片的Azure实例。
图片来源:Google 根据Google的内部基准测试,Ironwood可以在峰值上提供4,614个Tflops的计算能力。每个芯片都有192GB的专用RAM,带宽接近7.4 TBP。Ironwood具有增强的专业核心Sparsecore,用于处理“高级排名”和“建议”工作负载中常见的数据类型(例如,一种建议您可能喜欢的服装的算法)。 Google说。
Google计划在不久的将来将Ironwood与其AI HyperComputer(Google Cloud中的模块化计算集群)集成。
“ Ironwood代表了推理时代的独特突破,” Vahdat说,“随着计算能力,记忆力的增加,……网络的进步和可靠性。#8221;
太平洋上午10:45更新了:这个故事的早期版本错误地将微软的钴100称为AI芯片。实际上,钴100是一种通用芯片。微软的Maia 100是AI芯片。我们已经纠正了参考。
发布评论