博客
关于我
“天河二号”总工程师杜云飞谈星光超算应用平台设计
阅读量:84 次
发布时间:2019-02-26

本文共 1141 字,大约阅读时间需要 3 分钟。

星光超算应用平台——从研发到部署的全生命周期管理

杜云飞在2020年OpenI/O启智开发者大会上发表的主题报告《星光超算应用平台》引发了广泛关注。本文将详细介绍该平台的设计理念、架构以及实践应用场景。

一、平台建设背景

星光超算平台的建设始于2016年,由国家超级计算广州中心主导,旨在解决AI时代超算应用的融合挑战。传统的高性能计算(HPC)主要依赖于双精度浮点计算,而AI时代的计算需求越来越多样化,包括单精度、半精度甚至更低精度计算。如何在传统HPC基础上更好地支持AI应用,是星光平台面临的核心挑战。

二、平台架构设计

星光平台采用微服务架构,支持程序员进行功能切割和模块化开发。平台主要功能包括资源管理、工具流数据管理、开发环境以及辅助功能。通过微服务架构,平台能够灵活应对不同应用场景的需求。

三、开发流程与技术方法

星光平台的开发过程借鉴了企业级开发流程,结合开源社区的成果,形成了严格的开发规范。开发过程中应用了微服务容器化和DevOps方法,确保了系统的可用性和可靠性。平台支持从代码开发到测试和生产环境管理的完整流程,注重系统的可扩展性和可维护性。

四、平台运行环境

平台采用Kubernetes(K8s)和容器技术进行资源管理,支持多种硬件资源的调度和部署。通过K8s集群管理,平台能够高效地处理CPU集群和GPU集群的资源分配,同时提供统一的服务发现和扩容缩容能力。

五、应用开发环境

星光平台提供定制化的云端开发环境,支持多种计算体系结构和加速器环境的统一开发。开发环境基于容器技术,能够根据需求自动生成适配不同架构的环境配置,简化了程序员的开发流程。

六、应用全生命周期管理

星光平台覆盖了应用开发、审核、发布和运行的完整周期。开发者可以通过平台界面定义应用的运行环境和输入输出参数,管理员则负责对应用的安全性和可知性进行审核。平台还支持应用的版本管理和权限控制,确保应用的可靠运行和数据安全性。

七、工作流管理系统

平台集成了支持复杂工作流的管理功能,特别是在需要多目标优化的应用场景中,工作流能够自动化处理参数调整和任务执行。通过实时监控和可视化展示,管理员可以有效管理和优化工作流执行过程。

八、镜像仓库建设

星光平台建立了面向HPC应用的镜像仓库,支持用户快速迁移软件环境。镜像仓库不仅适用于传统云服务场景,还专门为HPC环境设计,方便用户在不同硬件资源上部署应用。

九、总结与展望

星光超算应用平台通过整合传统HPC和新兴AI技术,实现了从研发到部署的全生命周期管理。平台的镜像仓库建设为HPC用户提供了便捷的软件迁移工具,镜像仓库已逐步向公众开放,成为中国高性能应用容器镜像中心。星光平台的成功应用,标志着中国超算技术在AI时代的重要进展。

转载地址:http://gazu.baihongyu.com/

你可能感兴趣的文章
node防xss攻击插件
查看>>
noi 1996 登山
查看>>
noi 7827 质数的和与积
查看>>
NOI-1.3-11-计算浮点数相除的余数
查看>>
NOI2010 海拔(平面图最大流)
查看>>
NOIp2005 过河
查看>>
NOIP2011T1 数字反转
查看>>
NOIP2014 提高组 Day2——寻找道路
查看>>
noip借教室 题解
查看>>
NOIP模拟测试19
查看>>
NOIp模拟赛二十九
查看>>
Vue3+element plus+sortablejs实现table列表拖拽
查看>>
Nokia5233手机和我装的几个symbian V5手机软件
查看>>
non linear processor
查看>>
Non-final field ‘code‘ in enum StateEnum‘
查看>>
none 和 host 网络的适用场景 - 每天5分钟玩转 Docker 容器技术(31)
查看>>
None还可以是函数定义可选参数的一个默认值,设置成默认值时实参在调用该函数时可以不输入与None绑定的元素...
查看>>
NoNodeAvailableException None of the configured nodes are available异常
查看>>
Vue.js 学习总结(16)—— 为什么 :deep、/deep/、>>> 样式能穿透到子组件
查看>>
nopcommerce商城系统--文档整理
查看>>