
北美-欧洲AI芯片新秀Tensordyne最近搞了个大新闻!他们推出的Napier芯片系统TDN,直接喊话英伟达Blackwell——按Token计算能效高17倍,推理吞吐量猛增13倍。这颗采用台积电3nm工艺的芯片已经成功流片,背后还有博通、HPE瞻博网络等大佬撑腰。最绝的是它用对数数学设计,把AI推理里复杂的乘法运算简化成加法,就像用算盘打出了超级计算机的速度。
别看它身材小巧(芯片面积缩小25倍),能耗却低得吓人——只有Blackwell系统的八分之一。这得益于超大容量SRAM缓存和HBM内存的组合拳,处理器之间"对话"的延迟更是缩短到1微秒。实际跑分数据显示,用它处理Llama3.3-70B这种大模型时,每秒能处理300万Token,相当于同时让3000个人类大脑高速运转.

整套系统被组装成TDN72推理舱,单舱塞进72颗芯片,四个舱组成标准机架。这么个"钢铁巨兽"每秒能处理1000个Token/user,光是电费就能省下大把银子——按他们CEO的说法,每年能多赚3300万美元。目前已经有超过2亿美元的意向订单在排队,看来不少企业都等着用这把"新剑"来挑战英伟达的王座呢!更狠的是,他们宣称用这套系统部署大模型,单机架每年能额外创造3300万美元收入,这数字比很多科技公司的年利润还吓人。
盛达优配提示:文章来自网络,不代表本站观点。