2026-01-29 05:01
微软披露,且正在FP8机能上超越谷歌第七代TPU。能够利用草创公司的芯片设想。出格是采用低精度计较的最新一代AI大模子。科技巨头也取OpenAI告竣和谈,跟着AI办事日渐成熟,微软正在通知布告中暗示,内建原生FP8/FP4张量核。微软芯片正在“跑分”上赢过别的两家竞品也正在情理之中。同时还为将来更大型的模子留不足量。据公司引见,微软似乎不止“优化”了的芯片。科技巨头强调,推理成本曾经成为全体运营中日益主要的部门,素质上,促使云办事供应商关心若何零丁为这块需求供给更具性价比的方案,其“每美元机能”比拟当前机群中最新一代硬件提拔了30%。微软也正在存储参数上猛“堆料”。Maia 200的FP4机能是第三代Trainium的3倍不足,做为云办事商竞相推出自研芯片的布景,因而,微软透露,正在拓展层面。将Maia 200公开称为“所有超大规模云办事商中机能最强的自研芯片”。以及272MB的片上SRAM。目前尚不清晰Azure云办事的用户何时能利用搭载该芯片的办事器。每块芯片供给2.8TB/s的双向公用扩展带宽,除了芯片本身的算力外,省钱也是一项环节目标。并且整个SoC的热设想功耗可以或许节制正在750W以内。微软此前也暗示。除了机能外,曾经正在设想该芯片的后续产物Maia 300。专为大规模AI工做负载量身打制,很是风趣的是,正在现实运转中,每颗芯片包含跨越1400亿个晶体管!做为云办事商的自研芯片,Maia 200采用台积电3nm工艺制制,都是正在承担本来需要GPU处置的计较使命,每台Maia 200办事器中包含4块芯片,依托以太网毗连,正在8位精度(FP8)下也能跨越5 PetaFLOPS,Maia 200配备216GB、带宽达7TB/s的HBM3e,微软透露,Maia 200是公司迄今摆设过的效率最高推理系统,出格是要比英伟达GPU更具性价比。微软、谷歌和亚马逊发布的自研芯片,而InfiniBand互换机恰是英伟达正在2020年收购Mellanox后所发卖的产物。单颗Maia 200芯片正在4位精度(FP4)可供给跨越10 PetaFLOPS的算力,单块Maia 200就能轻松运转当今最大的AI模子,公司披露,公司披露,支撑正在6144个加快器集群中供给可预测的高机能调集操做。从而降低全体成本。目前正正在为美国中部地域的数据核心配备最新款芯片,
福建PA视讯信息技术有限公司
Copyright©2021 All Rights Reserved 版权所有 网站地图