华为云昇腾云服务
华为云将持续创新，携手客户、合作伙伴和开发者，致力于让云无处不在，让智能无所不及，共建智能世界云底座。昇腾云服务提供了高性价比的AI算力，提供全链路云化工具链，新增CloudMatrix384的新一代昇腾AI算力，支持高效迁移，全栈垂直优化，提供高性能、高可靠的超节点集群，支持模型/算法高效运行，使能“百模千态”应用快速落地。支持EMS服务，跨节点共享KV缓存，大幅降低首Token时延。超节点+大
·
华为云，一切皆服务
共建智能世界云底座
面向未来的智能世界，数字化是企业发展的必由之路。数字化成功的关键是以云原生的思维践行云原生，全数字化、全云化、AI驱动，一切皆服务。华为云将持续创新，携手客户、合作伙伴和开发者，致力于让云无处不在，让智能无所不及，共建智能世界云底座。
昇腾云服务
昇腾云服务提供了高性价比的AI算力，提供全链路云化工具链，新增CloudMatrix384的新一代昇腾AI算力，支持高效迁移，全栈垂直优化，提供高性能、高可靠的超节点集群，支持模型/算法高效运行，使能“百模千态”应用快速落地。
昇腾云服务产品架构
架构创新特性介绍
|
全新超节点架构算力底座 支持最大支持16万卡集群，用高速总线互联替代传统以太，通信带宽提升15倍，通信时延降低10倍 |
|
AI数据加速更快 支持EMS服务，跨节点共享KV缓存，大幅降低首Token时延。支持SFS Turbo服务，实现AI数据加载速度提升10倍 |
|
大规模集群性能更高 超节点+大规模专家并行的技术，支持单卡性能提升近4倍，支持一卡一专家分布式推理部署，相较于非超节点推理性能提升4X |
|
资源利用率提升 支持朝推夜训，通过训推共池，训练资源池和推理资源池资源灵活调度，实现资源利用提升30%以上 |
技术共进，成长同行——讯飞AI开发者社区
更多推荐
4
0- 0
已为社区贡献26条内容
所有评论(0)