云骁智算平台解决方案 - 天翼云

云骁智算平台解决方案

依托天翼云分布式架构的云底座和海量的计算、存储、网络资源，具有高性能、高弹性、高速互联、高性价比等特性，以普惠的智能算力为基础，支持ChatGPT类大模型训练、智能推荐、无人驾驶、生命科学、NLP等场景，为金融、科研机构、数字人等行业提供软硬一体解决方案

业务挑战

算力多样升级

多样化的智能场景需要多元化的算力，ChatGPT类大模型训练、人工智能、科学研究以及元宇宙等新兴领域快速崛起都对算力提出更高要求
分布式训练效率低

大规模分布式训练、异构算力的统一管理和调度效率低下，新计算任务上线耗时长
国产化AI算力自主可控要求高

需要加强技术攻关和关键技术突破，实现自主可控的国产化AI算力平台，提高平台的安全性
统一分配和融合调度难度大

网管、云管多平台共存，AI场景算力的统一分配和融合调度难度大

解决方案场景

大模型场景
政府服务场景
视频场景

业务概述

提供海量文件的处理和大模型开发管理，实现从模型训练、模型蒸馏、模型推理、在线部署、服务调用的完整流程，进一步降低ChatGPT等大模型产业化门槛

业务优势

大模型训练与推理等全场景支持：分布式训练框架提升大模型训练效率，数据智能加速减少训练数据加载时间，拓扑感知调度，多机多卡训练场景下，最大程度保证算力聚合
高性能存储：数据条带化，I/O负载均衡，支持上万客户端并行访问。基于全闪介质和RDMA高速网络，提供百GB吞吐、百万级IOPS、亚毫秒级时延
高性能网络：提供高带宽和高吞吐量，提供端到端小于1微妙转发时延，RDMA技术保证端到端不丢包，消除传统TCP/IP网络中重传包带来的性能降低

方案优势

专业认证

天翼云智算平台率先顺利通过中国信息通信研究院《可信算力服务平台技术能力要求第3部分：智算平台》评估，成为业内首批通过该项评估的云服务商
自主可控

打造国产化能力体系，适配昇腾、寒武纪等国产主流GPU芯片，适配海光、鲲鹏等各种国产服务器，构建自主可控的智算平台
高性能底座

计算侧提供GPU云主机、弹性裸金属等高性能服务器；存储侧支持并行文件存储、海量文件存储、对象存储等多种存储形态，提供百万级IOPS、亚毫秒级时延，支持丰富的大容量非结构化数据保存和分析场景；网络侧提供百GE RDMA
算力调度赋能

提供AI任务调度、异构算力调度、数据缓存加速、GPU虚拟化等能力，支持近万亿级参数模型训练规模、3D并行分布式训练、推理加速引擎、数据加速等算力调度赋能层能力，大大提升训练速度和推理效率
统一管理调度

云上云下多算力数据中心可统一进行管理调度，平台提供标准化运营计费、租户管理、监控运维等能力
产业赋能

根据客户的业务软件特性，为数字政府、产业金融、高校科研等行业客户提供风险低、高性能、高性价比的实现方案

方案架构

方案架构

方案简介

依托天翼分布式架构的云底座和海量的计算、存储、网络资源，具有高性能、高弹性、高速互联、高性价比等特性，为金融、科研机构、自动驾驶、数字人等行业提供提供软硬一体解决方案，以普惠的智能算力为基础，支持ChatGPT类大模型训练、智能推荐、无人驾驶、生命科学、NLP等场景

架构优势

多样化算力

多样化算力，可提供云主机、裸金属、容器、AI任务等多种形态算力，提供异构算力的统一管理和调度

高性能存储

丰富的文件存储规格：自研HPFS，自研OceanFS、自研对象存储等，提供百GB吞吐、百万级IOPS、亚毫秒级时延

高性能网络

IB与RoCE网络提供高速、低时延、大带宽的支撑平台，助力智算平台建设

多样化调度&分布式训练

容器支持拓扑感知调度、装箱调度、混合调度等多样化调度，具备数据缓存加速能力。平台支持数据并行、模型并行、流水线并行的分布式训练

推荐产品

弹性云主机

随时自助获取、弹性伸缩的云服务器资源
查看详情
GPU云主机

基于GPU计算资源的云服务器资源
查看详情
物理机

高性能、高安全的云上物理服务器服务
查看详情
弹性负载均衡

流量分发、解决大并发访问的网络服务
查看详情
对象存储

高品质、低成本的云上存储服务
查看详情
弹性文件服务

安全、可靠的共享文件存储服务
查看详情
弹性高性能计算

一站式公有云弹性高性能计算平台
查看详情
云容器引擎

企业级容器集群，助力业务转型升级
查看详情