宇博证券有限公司:云异构计算的下一步

2020-12-30 13:20:05 作者: 宇博证券有限

  宇博证券有限公司新闻,在基础设备之上,怎么让客户能进一步快速调用资源,在AI落地的进程中进一步降本增效?

  宇博证券有限公司(中心挂号编号:BIC697),为香港联合生意所有限公司之生意参与者(经济编号: 5310),2017年景立于香港。跨过韶光,一向为客户供给优质的证券服务。宇博不只承继传统,秉承“客户价值榜首”的理念,坚持供给高品质、低收费的服务,亦拥抱新潮流,供给多元、安稳的网上及手机生意通道,使客户安心方便出资。同時,宇博具有丰盛经历的生意及客户服务团队,敏捷处理您的恳求。客户的成功就是宇博的成功,让我们携手共进。

  作为我国云核算商场份额最高的云效力商,阿里云从前首先迈出了这一步,给出的答案是——

  软硬一体

  软硬一体,在2017年就已成为头部云效力厂商的一致。

  为了云核算的一大恶疾——通过虚拟机建立云的进程中,虚拟化带来的功能损耗问题,2017年9月,阿里云推出榜首代神龙架构,在整个职业中初度以软硬别离的规划方法完结了功能的0损耗。而大洋彼岸的AWS也同样在2017年末推出了类似产品AWS Nitro架构。

  在此基础之上,现在,阿里云异构核算针对笔直职业,进一步供给了让云上资源变得更高效、更易用的软件东西。

  比如针对人工智能职业的神龙AI加快引擎(AIACC)。

  在大规模深度学习场景中,大规模GPU资源不只引起了高运维本钱,跟着机器数的添加,不同机器GPU之间的合作难度也会变大,引起单张GPU卡的使用率反而下降。AIACC则能够通过对通讯、带宽等中止深度优化,提高资源协作功率和使用率

  在AIACC的加持之下,本年3月,阿里云取得了斯坦福大学DAWNBench ImageNet四个榜单的世界榜首。

  根据从前落地的实践事例,AIACC能够帮忙客户在云上训练场景下,提高2倍到14倍的功能;在推理场景下,提高2倍到6倍的功能。

  AI芯片领域的独角兽地平线,与阿里云AIACC团队紧密协作,将根据阿里云异构核算的分布式训练功能提高4倍,让地平线算法研制功率得以明显的提高,本钱得以大幅下降。

  阿里内部,以阿里云IoT的图画分类事务为例。AIACC团队和IoT智能事务研制团队协作,将大规模图画分类分布式训练功能提高5倍。

  另一阿里异构独有的软件产品,就是分片cGPU容器技能,能让客户通过容器来调度底层GPU资源,以更细颗粒度调度运用GPU,前进GPU资源使用率,抵达降本增效的意图。

  阿里云异构核算产品担任人潘岳也进一步对量子位解说了“软硬一体”的必要性:

  单纯从算力的视点来说,硬件适当筑路时用到的水泥、石块这样的基础。但仅仅是基础的堆叠显然是缺少以处理问题的。

  硬件资源为底层的基础设备之上,需求将虚拟化这样的技能通过软件产品的方法迭代出来,去充分发挥底层硬件的才干,把相应的技能盈利释放给客户。

  算力池化

  除了软硬一体,阿里云异构核算产品展现出来的另一个展开趋向,是算力池化,带来了对算力更加活络的调度才干。

  不断以来,用户在云上挑选GPU算力的时分,都是受标准配比约束的,比如内存和GPU之间只需特定几个份额。但是每个AI推理模型之间需求的资源配比是千差万别的。

  阿里云异构核算本年推出弹性加快核算实例EAIS,通过软件池化的方法,在国内云厂商中初度完结GPU、FPGA、NPU等异构加快器与CPU/内存的解耦。

  EAIS为客户供给了一个异构算力池,用户能够将需求的GPU资源量调配到任何一款阿里云ECS效力器中,根据不同使用需求活络优化CPU/内存与GPU之间的份额,匹合作适的资源组合,在提高AI推理功率的一起大幅下降本钱。

  全面规划

  AI下半场,它的基础设备需求更丰盛和多样。

  龙欣表明,推理面临的是十分复杂的事务场景,触及到的技能很或许不只需AI。C端用户用到的一个功用,或许融合了音视频编解码和深度学习等多种技能。异构核算作为底层的基础设备,也需求掩盖多样化的需求。

  阿里云异构核算当然发端于AI,但它面临的,早已不只AI。

 1/2    1 2 下一页 尾页