收起左侧
发新帖

亚洲最大超算中心临港投运,可完成10000亿参数模型训练

时间:2022-1-24 21:51 0 436 | 复制链接 |

马上注册,结交更多好友

您需要 登录 才可以下载或查看,没有账号?立即注册

x
DSC0000.jpg


人工智能软件公司商汤科技(0020.HK)1月24日宣布,其位于上海自贸区临港新片区总投资约56亿元的人工智能计算中心(简称商汤AIDC)即日起投入运营。
商汤AIDC建筑面积13万平方米,一期机柜数量5000个,是一座开放、大规模、低碳的先进计算基础设施,其设计峰值算力超过每秒3740 Petaflops(1 Petaflop等于每秒1千万亿次浮点运算),是亚洲最大的人工智能计算中心之一。AIDC投入运营后将使商汤总算力超过每秒4910 Petaflops,目前已接入位于临港的国家(上海)新型互联网交换中心。
商汤AIDC支持在超大规模集群并行训练、万亿级参数大模型、蛋白质折叠研究等领域开展研究工作。也可以为国产芯片提供大规模应用环境,预计到2024年所有服务器全部到位时,AIDC国产化的硬件比例将超过50%。
未来,商汤计划进一步扩大AIDC的计算能力,持续提升AIDC云服务能力。商汤科技联合创始人、副总裁杨帆对澎湃新闻(www.thepaper.cn)表示,二期项目正在规划中,计划建设的二期规模是一期项目的1-2倍体量。“这样的一个规模设计是根据我们对于整个行业包括区域的产业需求发展速度和节奏来设计的。”
支持万亿参数通用大模型训练,促进国产智能芯片生态创新
AIDC于2020年7月正式启动建设,是SenseCore商汤AI大装置中计算基础设施层的重要组成部分和物理承载。AIDC投入运营后,将以超大规模弹性算力、低算力成本、高安全性、低网络时延等多重优势,为商汤AI大装置构筑创新基座,以更高效率、更低成本带动AI产能升级。
AIDC的计算和处理能力堪称“巨无霸”,其峰值算力为3740 Petaflops,可以提供大规模弹性算力,完成10000亿参数模型的完整训练。基于这一超大模型,可衍生出超2万多个商用模型,帮助产业界以极低的下游数据采集成本快速验证多个新场景。 DSC0001.jpg AIDC整体上以训练为主,其对海量算力芯片的需求,也可以为国产芯片提供大规模应用环境,从需求端拉动国产芯片的发展,并形成更具成本优势的AI算力服务。预计到2024年所有服务器全部到位时,AIDC国产化的硬件比例将超过50%。
“AI领域最大的问题还是核心的AI计算芯片,无论是GPU还是TPU,如果从市场用量来讲是一家独大的状态。”杨帆表示,与此同时,GPU作为专用芯片,软件栈的开发成本非常高。
“商汤能干的事,很重要的一个价值是帮助减少这块成本,首先我们有大量软件人员,我们的软件人员在硬件优化、算法优化上有非常多的经验。”
AIDC将通过由商汤牵头成立的“人工智能算力产业生态联盟”,加快国产智能芯片的适配和整合,并带来从场景需求牵引到软件价值生态全链条的配套支持,为国产智能芯片的创新构建体系性支撑,加速形成人工智能国产算力生态基础。“适配完成后,我自然也会愿意去采购,如果国产芯片做得越来越好,出货量越来越大,它的成本自然会降低。”
“过去两年,我们跟国内很多做国产人工智能芯片的厂商展开了大量合作,也希望尽快能让国产云侧人工智能处理芯片以及以它为核心的服务器尽快在市场更大规模、更大范围地使用。”杨帆说。 DSC0002.jpg 此外,AIDC通过独立的物理机房可保证完全的物理隔离,借助隐私安全计算技术可面向不同客户提供从计算、存储到网络等不同层面的资源隔离。
AIDC坐落于上海临港新片区,对于上海和长三角业务距离近,具备访问快、时延低等优势,目前已接入国家(上海)新型互联网交换中心。作为该中心核心运营主体和发起单位之一,商汤将通过AIDC为行业提供低成本、高质量的网络服务和AI算力服务。
通过直连新型互联网交换中心,AIDC不仅能提供就近接入服务,解决跨网访问等难题,还能提高企业间信息交互效率、降低传输成本,提升传输质量和稳定性,实现多点、多用户的快速网间互联。
支持蛋白质折叠等研究,加速全产业数字化转型
“我自己是一个程序员出身的软件公司负责人,头一次干土建项目,还真的是感慨万千。”杨帆表示,AIDC从开工到主体结构封顶仅用168天,刷新了临港建设的新纪录。
投入运营后,AIDC将进一步提升SenseCore商汤AI大装置的模型生产效率,支持商汤智慧商业、智慧城市、智慧生活、智能汽车四大软件平台创新,并在超大规模集群并行训练、万亿级参数大模型、蛋白质折叠研究等领域开展研究工作。
商汤还将通过AIDC开放商汤AI大装置的技术能力,为产业、科研、政务提供AIaaS云服务,全面提高AI生产力,加速全产业数字化转型。 DSC0003.jpg 面向产业,AIDC将深入上海及长三角地区等业务场景,以传统产业资源为基础,激活传统重工业和制造业的数字化转型,助力加快经济结构优化升级。
“我们去年做了一个工业领域的合作,实际上就是用AIDC的基础能力推动钢铁行业生产线的自动化和智能化,提升效率。我们做了一个焊缝检测,检测钢铁的焊缝是不是符合标准,像这样的事我们都是用AIDC支撑的算法去做的。”杨帆表示。
面向科研,AIDC依托海量的算力资源、集群调度优势、完整的AI算法工具链,将支持服务上海及长三角地区的国家重大科技基础设施和科研创新主体。
目前,商汤AIDC已与国家蛋白质科学中心(上海)等高校及科研机构达成合作意向,充分利用人工智能技术,带动传统科学研究进入新发展模式。
“国家蛋白质科学中心(上海)其实也希望用AIDC去帮助他在生物科学方面的重大基础研究,希望用我们的AI算力以及AI科学家跟他们的生物科学家一起在他们的科研领域做更多的突破。”
面向政务,商汤将通过AIDC及商汤方舟城市开放平台为城市管理者赋能,支持“一网统管”体系建设,加速城市治理智慧化进程。AIDC将帮助城市管理者将数据转化为运营洞察、事件告警和管理行动,实现公共设施状况、社区物业管理、市容管理、汛情、危化品泄露检测等方面的AI治理。
截至2021年6月30日,商汤已在主要区域市场建立23个人工智能超级计算集群。未来,商汤计划进一步扩大AIDC的计算能力,持续提升AIDC云服务能力。
“AIDC本质上是服务本地区内的产业升级转型和智慧城市发展,本质上是提供AI服务,所以AIDC的建设一定会去找那些有核心产业,同时核心产业存在转型升级诉求的地方。”
杨帆表示,今天的人工智能产业升级是需要成本的,“大型厂商可能能够付出一定的成本,如果当地都是一些单体规模非常小的,打个比方造纸厂,这种厂商有多少钱拿出来做厂子的智能化改造?它可能连信息化都没做。”因此选择在一地建设智算中心,第一步是衡量该地在未来三年对产业升级的需求到底有多大,接下来再看应该建多大规模的智能计算中心。



您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

站长推荐上一条 /1 下一条

扫码添加微信客服
快速回复 返回列表 返回顶部