新的AI芯片将大语言模型的能耗减少了一半

原始标题:新的AI芯片将大语言模型的能源消耗减少了一半。俄勒冈州立大学研究团队已开发出一种新的AI芯片,成功地将大语模型的能源消耗量减少了50%。该结果最近在波士顿举行的IEEE自定义集成巡回赛会议上发布。这在半导体领域取得了重大成功,预计将是解决大型语言模型高能消耗问题的“绿色钥匙”。
目前,由于巨大的参数,由Google的“双子座”和OpenAI的GPT-4代表的大型语言模型不断增长,从而导致能源需求的迅速增长。
研究小组指出,问题的关键在于基于数据中心的基于铜的数据NA NA黄铜。高速数据交换不仅会导致错误,而且还会带来巨大的能源浪费。尽管传统均衡器可以纠正错误,但它们是E自己“电动老虎”。一种解决方案是生产更好的有线通信芯片。
他们开发的新芯片可能会使用AI技术来识别和纠正在此处进行分类的培训,以更智能,更好的方式恢复数据,从而减少能耗。与传统设计相比,新芯片可以将大语言模型消耗的能量减少一半。
研究团队开始开发下一代芯片,这将带来更惊人的能源效率性能。虽然全球对AI计算能力的需求继续下沉,但该技术可能是绿色计算的重要驱动力。 (记者刘夏)
(编辑:Li Fang,Xiong Xu)
分享让许多人看到