博客
关于我
“天河二号”总工程师杜云飞谈星光超算应用平台设计
阅读量:84 次
发布时间:2019-02-26

本文共 1141 字,大约阅读时间需要 3 分钟。

星光超算应用平台——从研发到部署的全生命周期管理

杜云飞在2020年OpenI/O启智开发者大会上发表的主题报告《星光超算应用平台》引发了广泛关注。本文将详细介绍该平台的设计理念、架构以及实践应用场景。

一、平台建设背景

星光超算平台的建设始于2016年,由国家超级计算广州中心主导,旨在解决AI时代超算应用的融合挑战。传统的高性能计算(HPC)主要依赖于双精度浮点计算,而AI时代的计算需求越来越多样化,包括单精度、半精度甚至更低精度计算。如何在传统HPC基础上更好地支持AI应用,是星光平台面临的核心挑战。

二、平台架构设计

星光平台采用微服务架构,支持程序员进行功能切割和模块化开发。平台主要功能包括资源管理、工具流数据管理、开发环境以及辅助功能。通过微服务架构,平台能够灵活应对不同应用场景的需求。

三、开发流程与技术方法

星光平台的开发过程借鉴了企业级开发流程,结合开源社区的成果,形成了严格的开发规范。开发过程中应用了微服务容器化和DevOps方法,确保了系统的可用性和可靠性。平台支持从代码开发到测试和生产环境管理的完整流程,注重系统的可扩展性和可维护性。

四、平台运行环境

平台采用Kubernetes(K8s)和容器技术进行资源管理,支持多种硬件资源的调度和部署。通过K8s集群管理,平台能够高效地处理CPU集群和GPU集群的资源分配,同时提供统一的服务发现和扩容缩容能力。

五、应用开发环境

星光平台提供定制化的云端开发环境,支持多种计算体系结构和加速器环境的统一开发。开发环境基于容器技术,能够根据需求自动生成适配不同架构的环境配置,简化了程序员的开发流程。

六、应用全生命周期管理

星光平台覆盖了应用开发、审核、发布和运行的完整周期。开发者可以通过平台界面定义应用的运行环境和输入输出参数,管理员则负责对应用的安全性和可知性进行审核。平台还支持应用的版本管理和权限控制,确保应用的可靠运行和数据安全性。

七、工作流管理系统

平台集成了支持复杂工作流的管理功能,特别是在需要多目标优化的应用场景中,工作流能够自动化处理参数调整和任务执行。通过实时监控和可视化展示,管理员可以有效管理和优化工作流执行过程。

八、镜像仓库建设

星光平台建立了面向HPC应用的镜像仓库,支持用户快速迁移软件环境。镜像仓库不仅适用于传统云服务场景,还专门为HPC环境设计,方便用户在不同硬件资源上部署应用。

九、总结与展望

星光超算应用平台通过整合传统HPC和新兴AI技术,实现了从研发到部署的全生命周期管理。平台的镜像仓库建设为HPC用户提供了便捷的软件迁移工具,镜像仓库已逐步向公众开放,成为中国高性能应用容器镜像中心。星光平台的成功应用,标志着中国超算技术在AI时代的重要进展。

转载地址:http://gazu.baihongyu.com/

你可能感兴趣的文章
nodejs配置express服务器,运行自动打开浏览器
查看>>
Nodemon 深入解析与使用
查看>>
node不是内部命令时配置node环境变量
查看>>
node中fs模块之文件操作
查看>>
Node中同步与异步的方式读取文件
查看>>
Node中的Http模块和Url模块的使用
查看>>
Node中自启动工具supervisor的使用
查看>>
Node入门之创建第一个HelloNode
查看>>
node全局对象 文件系统
查看>>
Node出错导致运行崩溃的解决方案
查看>>
Node响应中文时解决乱码问题
查看>>
node基础(二)_模块以及处理乱码问题
查看>>
node安装及配置之windows版
查看>>
Node实现小爬虫
查看>>
Node提示:error code Z_BUF_ERROR,error error -5,error zlib:unexpected end of file
查看>>
Node提示:npm does not support Node.js v12.16.3
查看>>
Node搭建静态资源服务器时后缀名与响应头映射关系的Json文件
查看>>
Node服务在断开SSH后停止运行解决方案(创建守护进程)
查看>>
node模块化
查看>>
node模块的本质
查看>>