于全世界半导体行业中,Cerebras Systems 近来创下新的里程碑,推出了世界上尺寸最年夜的AI芯片──WSE(Wafer Scale Engine),并于AI推理速率上逾越了英伟达。 这款芯片的尺寸是8.5英寸(约22公分)的巨年夜方形芯片,拥有惊人的40亿个晶体管,这使患上它于AI推理运算中到达每一秒2,522个token,比NVIDIA猬集(Cluster)快了约2.5倍。 Cerebras的信息安全官Naor Penso于温哥华的Web Su妹妹it年夜会中暗示,这是全世界最快的推理速率。
推理速率对于在企业客户来讲至关主要,特别是于需要及时反映的情境中,例如于购物车中添加AI引擎,以便快速提供食谱建议。 跟着AI技能的前进,推理速率的需求将变患上越发火急,由于将来的AI代办署理将需要处置惩罚更繁杂的多步调使命。
WSE芯片的设计不仅依靠晶体管的数目,还有包括将所有零件整合于一个芯片上,并配备44GB的高速RAM。 这类设计使患上Cerebras的芯片于机能上优在NVIDIA的Blackwell芯片,Cerebras每一秒可达2,522个token,而NVIDIA Blackwell为1,038个token。 「咱们测试过数十家厂商,Cerebras是独一于Meta重要模子上能逾越Blackwell的推论解决方案。」Artificial Analysis履行长Micah Hill-Smith说。
WSE芯片可说是电脑芯片设计的一个有趣进化,这不仅是对于传统CPU及GPU架构的挑战,更是对于AI计较需求的全新解决方案。 Cerebras的营销官Julie Shin夸大,这不是一项渐进式技能,而是芯片技能的一次奔腾。
-球信网·(中国)官方