商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型( 三 )


除了性能以外,商汤AIDC的能耗也控制得不错,PUE做到了1.28,这意味着相对于运行服务器等硬件的能耗,支撑数据中心运行的灯光和空调等费用是非常低的。
具体来说,AIDC功耗比国内其他数据中心低10%,相当于每年都能节省约4500万度电(一台普通手机使用一年,功耗总量也不到10度电)。
这也使得商汤AIDC虽然不是最早做的,但却能在行业中站到一个相对领先的位置。
商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
文章插图
回望过去的计算中心发展史,这大约并不是一个“偶发性事件”。
诞生于AI时代洪流之中听上去,AIDC或者叫人工智能计算中心,似乎是一个颇为新鲜的概念。
但其实在它之前,DC(数据中心)、IDC(互联网数据中心)、甚至是超级计算中心,就已经出现在人们的视野中。
被称作“人工智能”计算中心的AIDC,究竟为何会在时代的洪流中脱颖而出?
在新一轮深度学习热潮之前,大数据首先在互联网行业得到发展。
由此催生的IT基础设施便是互联网数据中心 (IDC),若再往前追溯,则是大企业内部的数据中心 (DC)。
商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
文章插图
从DC到IDC,表面上看只是给数据中心“拉了根网线”,实际上是服务对象的变化、价值的升级。
硬件设施集中在一起,带来数据存储和处理能力增强和边际成本下降,超出企业内部需要的能力后,就可以打包成资源输出给外部客户。
随着互联网行业的崛起、成为过去数年间发展最快的行业之一,行业分工也由此发生细化,出现了专门的数据中心,专门给互联网厂商提供基础设施服务。
然而,在IDC中吃了一波时代红利的人可能没想到,AI的到来会再度催生出名为AIDC的产物。
随着AI大模型的出现,算法对算力的要求越来越高,人们对数据中心的要求不再是只提供基础设施服务,还希望它能够更高速地运行各种AI算法,并落地成各种智能应用。
商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
文章插图
服务对象也不再限于互联网行业,还扩展到了更多希望通过“AI+”实现转型的传统领域。
智慧制造、智慧能源、智慧城市都是近一段时间的突出代表。
靠传统IT技术没能做到的产业数字化转型,终于在AI的作用下成了一股不可阻挡的趋势。
根据权威咨询机构国际数据公司(缩写也是IDC)预测,算力指数平均每提高1个点,数字经济和GDP将分别增长3.3‰和1.8‰——
AI除了技术的发展,也正在成为拉升经济的重要“战力”。
商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
文章插图
但除了数据中心以外,领域内已经有很多现成的超算中心,人工智能计算中心的出现,是否并非必然?
事实上,二者仍然有很大不同。超级计算机主要面对尖端科技发展需要,如天气预测、能源勘探、卫星遥感。
科学和工程计算主要处理结构化的数值数据,对计算精度的要求最高,往往需要使用64位双精度计算,由CPU提供。
而AI面对的,则是大量文本、图像、视频这样的非结构化数据,对精度要求没那么高,对速度和效率更看重,更多靠GPU提供高并行的低精度算力。
AI在训练阶段主要用到32位单精度和16位半精度,在实际应用时的推理阶段,则经常只用16位甚至更低精度来保证运行效率。
商汤首付56亿!上海建成亚洲最大AI“发电厂”,搞定万亿参数模型
文章插图
显然,从服务对象和技术自身两方面来看,AI都要求有专门的基础设施,AIDC本身其实是“洪流之下”的一大趋势。