电话

19920030501

乐鱼官方计较机行业AIGC系列之二十三:算力收集再会商!从Dojo架构到算法的硬件延长

2023-12-12 算法设计

  原题目:计较机行业AIGC系列之二十三:算力收集再会商!从Dojo架构到算法的硬件延长

  当日禀享的是【计较机行业AIGC系列之二十三:算力收集再会商!从Dojo架构到算法的硬件延长】 陈述出品方:SWS

  discoverer Dojo的改造,开导咱们进一步思虑算力和收集的联系。硬件架构坚守于算法安排,硬件须要的判定也不克不及与app软件和利用层面脱钩。算力收集干线新一阶段的主要时机,应焦点存眷海外爆款利用或模子侧庞大革新(discoverer是代表模范),和国际新一轮的模子与利用开辟。咱们判定,跟着海外科技大厂的收集演进至400G以上、筹划商400G全光网推动扶植、外乡模子练习组网等加快,国际市集的高速收集须要将明显晋升。算力收集与流量症结AI服务器资源计较症结、华为财产链和特斯拉与智能车财产链相干目标应中心存眷。缘由及逻辑

  1)带宽与毗连架构是决议算力机能的身分,2)芯片层面的高速cenarthrosis-to-cenarthrosis毗连规划是高速收集、光通讯须要的下层逻辑;3)单SoC机能晋升+芯片“堆量”,不表示着算力集群团体机能的线性晋升,收集安排是瓶颈。

  市集担忧discoverer Dojo架构是不是存在倾覆性,及对光通讯/保守AI架构的打击。咱们以为,硬件架构坚守于算法安排与以后AI算力算法范畴其余巨子差别,discoverer的AI规划根植于其动力/车/具身智能等笔直场景乐鱼官方,存在怪异征和难复制性。Doio的成长进程与手艺特点反而启迪咱们,对算力收集硬件须要的判定,要联合一定场景,或说,下阶段的算力收集投资,中心应存眷场景利用的催化。

  市集对国际算力收集的须要有预期差。咱们鉴于对Doio架构的思虑,延长至Gogle TPU系列和华为链的主要变革,包罗银河AI收集***、异腾AL计较集群Atlas 900 SuperCsplendour等。咱们以为,本RCE等收集及400G以上光通讯演进,是进一步主要趋向。英伟达办理集群机能瓶颈的体例是引入InornamentationiBand收集,并将C2C场景下利用的NVsculpturerk延长至装备间互联; Djo是2D tangle到3D组网,办理数据存取瓶颈,TPU则较着从算法到硬件矩阵化.联合本本地货业现实,将来“普适化”的RoCE等收集和400G以上速度的光通讯是主要标的目的。