智算一体机集成一站式智算服务平台,提供大模型训练、推理、应用等全栈AI工具链服务。包含数据管理、模型开发与训练、模型评估、模型管理、服务部署等模块。
序号 | 主要功能/性能 | 解决客户问题 |
---|---|---|
1 | 数据集管理 | 实现创建数据集、导入数据、管理数据和数据标注功能,帮助用户操作管理数据。 |
2 | 模型开发与训练管理 & 模型精调 | 实现快速微调、模型开发管理、训练任务管理、开发环境管理功能。提供多种开发工具和开发环境,也支持用户上传开发环境。客户可根据自身情况,灵活选择模型开发方式,进行模型训练迭代。 |
3 | 模型管理 | 实现导入模型、管理模型、模型评估功能。帮助客户对模型进行版本管理,性能测评。 |
4 | 模型部署 | 实现模型服务的部署、管理和密钥的管理。解决客户在训练迭代大模型后,在线测试模型推理、上下文理解等性能。 |
5 | 模型广场 | 慧聚公有云平台支持多种主流开源大模型API调用,为客户提供在线试用体验。 |
6 | 模型服务 | 实现账户的模型服务开通、应用的模型服务权限管理,支持查看调用情况和告警信息。方便客户管理模型服务权限。 |
7 | 运营运维平台 | 实现用户运营、资源运营、监控调度、配额及权限设置功能。方便客户进行运营运维操作。 |
8 | AI算力 | 解决AI应用中所需要的算力资源,包含昇腾、英伟达等多样算力。 |