活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
热门活动
  • 618智算钜惠季 爆款云主机2核4G限时秒杀,88元/年起!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 出海产品促销专区 NEW 爆款云主机低至2折,高性价比,不限新老速来抢购!
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 首保服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
      • 文档
      • 控制中心
      • 备案
      • 管理中心
      文档中心

      一体化计算加速平台·异构计算

      一体化计算加速平台·异构计算

        • 产品动态
        • 产品介绍
        • 产品定义
        • 产品优势
        • 功能特性
        • 应用场景
        • 术语解释
        • 规格
        • 使用限制
        • 计费说明
        • 与其他服务的关系
        • 快速入门
        • 准备工作
        • 主账号使用流程
        • 子账号使用流程
        • 用户指南
        • 权限管理
        • 资源
        • 资源组
        • 新建资源组
        • 资源组列表
        • 资源组详情
        • 删除资源组
        • 续订资源组
        • 节点
        • 新增节点
        • 纳管节点
        • 节点列表
        • 节点详情
        • 节点解绑
        • 节点移除
        • 节点远程登录
        • 节点批量管理
        • 节点标签管理
        • 队列
        • 创建队列
        • 管理队列
        • 自定义脚本
        • 新建脚本
        • 脚本列表
        • 运行脚本
        • 脚本执行记录
        • 数据准备
        • 创建存储挂载
        • 管理存储挂载
        • 创建k8s共享存储
        • 管理k8s共享存储
        • 一键检测
        • 服务器检测
        • RDMA网络性能检测
        • 通讯库性能检测
        • 检测历史
        • 工作空间
        • 工作空间管理
        • 数据集
        • 镜像仓库
        • 预置镜像
        • 自定义镜像
        • 训练
        • 创建自定义训练任务
        • 管理自定义训练任务
        • 查看自定义训练任务详情
        • 查看训练任务日志
        • 训练任务监控
        • 训练任务生命周期
        • 管理训练容器环境变量
        • 监控审计
        • 资源监控
        • HPFS监控
        • RoCE监控
        • IB网络监控
        • AI加速
        • CTCCL优化套件
        • CTCCL介绍
        • 安装、升级CTCCL库
        • 启动CTCCL容器
        • 使用CTCCL容器
        • 附:CTCCL环境变量
        • CTFlashCkpt加速包
        • CTFlashCkpt介绍
        • 安装 CTFlashCkpt
        • 使用 CTFlashCkpt
        • CT-LLM-Inference超长序列生成软件包
        • CT-LLM-Inference介绍
        • CT-LLM-Inference安装与使用
        • 组件说明
        • 组件说明
        • 最佳实践
        • 如何上传数据到ZOS存储
        • 如何上传数据到HPFS存储并使用
        • 如何上传镜像到一体化计算加速平台·异构计算的私有镜像仓库
        • 使用自定义镜像提交训练的最佳实践- 昇腾+Pytorch
        • 断点续训练
        • 常见问题
        • 资源类
        • 数据类
        • 训练类
        • 计费类
        • 其他
        • 相关协议
        • 产品服务协议
        • 服务等级协议
        • API参考
        • API概览
        • 概述
        • 终端节点
        • 状态码
        • 概览
        • 如何调用API
        • 认证鉴权
        • 构造请求
        • API
        • 2023-08-25
        • 镜像详情
        • 镜像列表
        • 镜像仓库列表
        • 获取节点标签
        • 设置节点标签
        • 获取用户所有资源组信息
        • 获取队列信息列表
        • 删除节点标签
        • 区域列表(下拉列表)
        • 历史监控指标查询
        • 纳管节点
        • 节点解绑资源组
        • 获取资源组使用信息
        • 查询监控数据统计值(平均值)
        • 历史监控数据查询
        • 节点列表
        • 查询监控数据统计值(加和值)
          无相关产品

          本页目录

          帮助中心一体化计算加速平台·异构计算用户指南工作空间训练训练任务监控
          训练任务监控
          更新时间 2025-01-10 09:45:02
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          最近更新时间: 2025-01-10 09:45:02
          分享文章
          • 新浪微博
          • 微信
            扫码分享
          • 复制链接
          本文介绍一体化计算加速平台·异构计算平台中的任务监控情况。

          在本平台运行的任务支持查看资源状况,以方便您掌握资源的使用情况。平台提供了丰富的监控指标,包括基本的CPU、内存、网络及显卡相关的指标,针对GPU,任务侧提供了细粒度指标,您可根据平台提供的指标对GPU进行剖析,深入了解GPU的使用情况。

          操作步骤

          在“训练任务列表”处点击需要查看的任务ID,进入任务详情,在“运行情况”处找到具体的任务运行ID,在操作列点击“更多”,选择“监控”,可查看当前任务运行记录的监控。

          选择实例,即pod,可查看此任务下指定pod的监控。注意当pod被清理时,无法查看原pod监控。

          指标说明

          指标单位说明
          CPU使用率%pod的CPU使用率
          CPU使用量mcpod的CPU使用量
          内存使用率%pod的内存使用率
          内存使用量GBpod的内存使用量
          普通网络吞吐Kbpspod的网络吞吐,包括网络的接收速率和发送速率
          GPU/NPU显存使用率%pod的每张卡的显存使用率
          GPU/NPU显存使用量GBpod的每张卡的显存使用量
          GPU/NPU使用率%pod的每张卡的显卡使用率
          GPU/NPU温度°Cpod的每张卡的温度
          GPU/NPU功耗Wpod的每张卡的功耗
          GPU应用时钟频率MHzpod的每张卡的SM应用时钟频率。
          GPU显存应用时钟频率MHzpod的每张卡的显存应用时钟频率。
          GPU显存带宽利用率%

          pod的每张卡的显存带宽利用率。

          以英伟达GPU V100为例,其最大内存带宽为900 GB/sec,如果当前的内存带宽为450 GB/sec,则内存带宽利用率为50%。

          GPU引擎活跃情况%

          pod的每张卡的引擎活跃情况。

          表示在一个时间间隔内,Graphics或Compute引擎处于Active的时间占比。

          Graphics或Compute引擎处于Active是指Graphics或Compute Context绑定到线程,并且Graphics或Compute Context处于Busy状态。

          该值表示所有Graphics和Compute引擎的平均值。

          GPU线程束活跃时间占比%

          pod的每张卡的线程束活跃时间占比。

          表示在一个时间间隔内,至少一个线程束在一个SM(Streaming Multiprocessor)上处于Active的时间占比。

          线程束处于Active是指一个线程束被调度且分配资源后的状态,可能是在Computing、也可能是非Computing状态(例如等待内存请求)。

          该值表示所有SM的平均值,小于0.5表示未高效利用GPU,大于0.8是必要的。

          假设一个GPU有N个SM:

          一个核函数在整个时间间隔内使用N个线程块运行在所有的SM上,此时该值为1(100%)。

          一个核函数在一个时间间隔内运行N/5个线程块,此时该值为0.2。

          一个核函数使用N个线程块,在一个时间间隔内,仅运行了1/5个周期的时间,此时该值为0.2。

          GPU线程束占用率%

          pod的每张卡的线程束占用率。

          表示在一个时间间隔内,驻留在SM上的线程束与该SM最大可驻留线程束的比例。

          该值表示一个时间间隔内的所有SM的平均值。

          占用率越高不代表GPU使用率越高。只有在GPU内存带宽受限的工作负载(DCGM_FI_PROF_DRAM_ACTIVE)情况下,更高的占用率表示更有效的GPU使用率。

          GPU张量通道活跃周期分数%

          pod的每张卡的张量通道活跃周期分数。

          表示Tensor(HMMA/IMMA) Pipe处于Active状态的周期比率。

          该值表示一个时间间隔内的平均值,较高的值表示Tensor Cores的利用率较高。

          该值为1(100%)表示在整个时间间隔内每隔一个指令周期发出一个Tensor指令(两个周期完成一条指令)。

          假设该值为0.2(20%),可能有如下情况:

          在整个时间间隔内,有20%的SM的Tensor Core以100%的利用率运行。

          在整个时间间隔内,有100%的SM的Tensor Core以20%的利用率运行。

          在整个时间间隔的1/5时间内,有100%的SM上的Tensor Core以100%利用率运行。

          其他组合模式。

          GPU显存拷贝活跃周期分数%

          pod的每张卡的显存拷贝活跃周期分数。

          表示显存带宽利用率将数据发送到设备显存或从设备显存接收数据的周期分数。

          该值表示时间间隔内的平均值,较高的值表示设备显存的利用率较高。

          该值为1(100%)表示在整个时间间隔内的每个周期执行一条 DRAM 指令(实际上,峰值约为 0.8 (80%) 是可实现的最大值)。

          假设该值为0.2(20%),表示20%的周期在时间间隔内读取或写入设备显存。

          GPU FP64通道活跃周期分数%

          pod的每张卡的FP64通道活跃周期分数。

          注意:并非所有型号的显卡都有此数据,如A10与L40S型号不支持此精度。

          表示FP64(双精度)Pipe处于Active状态的周期分数。

          该值表示一个时间间隔内的平均值,较高的值代表FP64 Cores有较高的利用率。

          该值为 1(100%)表示在整个时间间隔内上每四个周期(以Volta类型卡为例)执行一次FP64指令。

          假设该值为0.2(20%),可能有如下情况:

          在整个时间间隔内,有20%的SM的FP64 Core以100%的利用率运行。

          在整个时间间隔内,有100%的SM的FP64 Core以20%的利用率运行。

          在整个时间间隔的1/5时间内,有100%的SM上的FP64 Core以100%利用率运行。

          其他组合模式。

          GPU FP32通道活跃周期分数%

          pod的每张卡的FP32通道活跃周期分数。

          表示乘加操作FMA管道处于Active的周期分数,乘加操作包括FP32(单精度)和整数。

          该值表示一个时间间隔内的平均值,较高的值代表FP32 Cores有较高的利用率。

          该值为1(100%)表示在整个时间间隔内上每两个周期(Volta类型卡为例)执行一次FP32指令。

          假设该值为0.2(20%),可能有如下情况:

          在整个时间间隔内,有20%的SM的FP32 Core以100%的利用率运行。

          在整个时间间隔内,有100%的SM的FP32 Core以20%的利用率运行。

          在整个时间间隔的1/5时间内,有100%的SM上的FP32 Core以100%利用率运行。

          其他组合模式。

          GPU FP16通道活跃周期分数%

          pod的每张卡的FP16通道活跃周期分数。

          表示FP16(半精度)管道处于Active的周期分数。

          该值表示一个时间间隔内的平均值,较高的值代表FP16 Cores有较高的利用率。

          该值为 1 (100%) 表示在整个时间间隔内上每两个周期(Volta类型卡为例)执行一次FP16指令。

          假设该值为0.2(20%),可能有如下情况:

          在整个时间间隔内,有20%的SM的FP16 Core以100%的利用率运行。

          在整个时间间隔内,有100%的SM的FP16 Core以20%的利用率运行。

          在整个时间间隔的1/5时间内,有100%的SM上的FP16 Core以100%利用率运行。

          其他组合模式。

          GPU PCIe传输数据速率MB/s

          pod的每张卡的PCIe传输数据速率。

          表示通过PCIe总线传输的数据速率,包括协议标头和数据有效负载。

          该值表示一个时间间隔内的平均值,而不是瞬时值。

          该速率在时间间隔内平均。例如,在1秒内传输1 GB数据,则无论以恒定速率还是突发传输数据,速率都是1 GB/s。理论上的最大PCIe Gen3带宽为每通道985 MB/s。

          GPU PCIe接收数据速率MB/s

          pod的每张卡的PCIe接收数据速率。

          表示通过PCIe总线接收的数据速率,包括协议标头和数据有效负载。

          该值表示一个时间间隔内的平均值,而不是瞬时值。

          该速率在时间间隔内平均。例如,在1秒内传输1 GB数据,则无论以恒定速率还是突发传输数据,速率都是1 GB/s。理论上的最大PCIe Gen3带宽为每通道985 MB/s。

          GPU NVLINK传输数据速率MB/s

          pod的每张卡的NVLINK传输数据速率。

          表示通过NVLink传输的数据速率,不包括协议标头。

          该值表示一个时间间隔内的平均值,而不是瞬时值。

          该速率在时间间隔内平均。例如,在1秒内传输1 GB数据,则无论以恒定速率还是突发传输数据,速率都是1 GB/s。理论上,最大NVLink Gen2带宽为每个方向每个链路25 GB/s。

          GPU NVLINK接收数据速率MB/s

          pod的每张卡的NVLINK接收数据。

          表示通过NVLink接收的数据速率,不包括协议标头。

          该值表示一个时间间隔内的平均值,而不是瞬时值。

          该速率在时间间隔内平均。例如,在1秒内传输1 GB数据,则无论以恒定速率还是突发传输数据,速率都是1 GB/s。理论上,最大NVLink Gen2带宽为每个方向每个链路25 GB/s。

          文档反馈

          建议您登录后反馈,可在建议与反馈里查看问题处理进度

          鼠标选中文档,精准反馈问题

          选中存在疑惑的内容,即可快速反馈问题,我们会跟进处理

          知道了

          上一篇 :  查看训练任务日志
          下一篇 :  训练任务生命周期
          搜索 关闭
          ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
          公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
          备案 京公网安备11010802043424号 京ICP备 2021034386号
          ©2025天翼云科技有限公司版权所有
          京ICP备 2021034386号
          备案 京公网安备11010802043424号
          增值电信业务经营许可证A2.B1.B2-20090001
          用户协议 隐私政策 法律声明