慧聚一站式智算服务平台是为大模型训练、推理、应用提供全栈工具链的智算服务平台,包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。预置丰富的基座大模型和数据集,支持国产化等异构算力,提供算子加速与模型加速,极大提升大模型训练推理效率。通过全链路监控,形成稳定性优势,平台服务可用率不低于99%。
功能模块
- 数据集管理:将训练模型所需要的各种数据,导入到数据集管理中,以便于更清晰、方便地管理训练数据,加快训练速度。支持数据集共享,在线标注等。
- 模型开发管理:使用多种方式设计模型和训练,启动训练任务并为训练任务分配算力资源。
- 训练任务管理:查看和管理启动的所有训练任务。从已完成的训练中,挑选满意的训练结果发布为模型。
- 模型管理和评估:导入和管理所有模型,对模型进行版本管理、导入导出、评估、分享。
- 模型压缩:在保证模型效果的前提下压缩模型大小,进而提升模型在推理调用时的性能。
- 线上服务管理:将模型部署为在线服务,供应用方调用。
功能特性
- 简化训练和部署的复杂流程
- 开箱即用,降低调优成本
- 平台化全流程管理