浪潮|智算中心高效调度舵手面世浪潮发布新版AIStation推理服务平台

当前,我国正加速打造新一代人工智能算力基础设施,智算中心作为普惠型人工智能新型基础设施在政策扶持、多地发展需求推动下,目前已在各地掀起落地潮。近期,南京已率先落地了计算能力达每秒80亿亿次的南京智能计算中心,将有效推动长三角地区智能产业创新集聚与经济能级提升。
随着多地智算中心相继建成使用,将面临愈加复杂多元的应用场景。为帮助智算中心充分发挥多元算力作用, 9月17日,浪潮全新发布AIStation人工智能推理服务平台,可统一高效调度多款国际国内领先的AI芯片的算力,着力解决智算中心面临的计算资源调度与管理难题,加速AI应用场景落地。
浪潮|智算中心高效调度舵手面世浪潮发布新版AIStation推理服务平台
文章插图

据悉,智算中心普遍具备规模庞大、应用多样、用户广泛等特征,以南京智能计算中心为例,计算节点近1000个,支撑着科技金融、智能制造、智慧零售、智慧医疗、智慧交通等众多领域的应用创新,承担的应用场景最为复杂和多元。如何让底层的多元化AI算力灵活支持上层的多样化AI应用,已成为智算中心创新效率的关键所在,迫切需要高效地调度算力。
对此,浪潮发布的AIStation人工智能推理服务平台可支持AI训练和推理,是业界功能最全的AI管理平台,可提供AI模型开发和部署一站式交付,通过高效的算力调度,赋力智算中心获取更多创新可能。本次发布的AIStation最新版,着力解决智算中心面临的多元化算力、计算资源调度与管理难题。
针对当前多元化算力的应用困局,浪潮此次发布的新版AIStation推理服务平台实现了对英伟达、寒武纪、昆仑芯、高通等6家国际国内厂商的12款AI和GPU芯片的多元算力支持。AI芯片可通过适配浪潮提供的AI芯片算力接入规范即可快速接入AIStation平台,帮助用户降低对多元AI芯片的使用和管理难度。AIStation平台实现多元算力的统一管理及调度,为生产环境算力运行提供一致的监管功能,对GPU、MLU等AI芯片的性能状况、AI业务流量及响应延时进行实时监控,并根据监控数据进行分析、决策、执行操作,实现服务算力的自动调节、自适应推理业务突发资源扩展需求。
AIStation是业界首个支持多元AI芯片算力的人工智能服务平台,打通了多元AI芯片从接入、管理、调度、适配到应用的路径,通过构建AI芯片算力接入规范实现多元算力的标准化管理,为产业AI化和智算中心建设提供高效便捷的AI算力调度,让AI应用和AI服务更便捷,助力用户充分使用多元算力实现AI技术创新和落地。目前,浪潮AIStation推理服务平台已在诸多客户获得成功应用,在新基建、互联网、金融、保险、交通、手机通信、智能汽车、智慧城市等多个AI场景发挥着重要作用。
【 浪潮|智算中心高效调度舵手面世浪潮发布新版AIStation推理服务平台】在推动智算中心建设层面,2021上半年浪潮率先布局。目前,围绕智算中心的算力、数据、互联以及平台,浪潮已经形成完整、成熟的创新产品体系布局,在算力层面包含了AI算力、通用算力、关键算力以及边缘侧算力,在数据存储领域,涵盖集中、分布式数据存储以及大数据分析平台;在互联层面,拥有开放网络系统以及实现加速数据流动和调度的智能网卡;在平台层面,浪潮拥有具备软件定义特征的元脑OS,在实现智算中心的智能化管控和运维的基础上,提供算力的汇聚、调度、释放……多措并举,加快推动各地智算中心的建设进程。