Cerebras Systems和联邦能源部国家能源技术实验室今天宣布,该公司的CS-1系统比图形处理单元(GPU)快10,000倍。换句话说,这意味着过去需要花费数月训练的AI神经网络现在可以在Cerebras系统上仅需几分钟即可完成。 Cerebras生产世界上最大的计算机芯片WSE。芯片制造商通常会从直径12英寸的硅锭上切出晶圆,然后在芯片工厂中进行处理。经过处理后,晶圆被切成数百个可用于电子硬件的独立芯片。但是由SeaMicro创始人安德鲁·费尔德曼(Andrew Feldman)创立的Cerebras使用整个晶圆来制造一个巨大的芯片。芯片的每个部分都称为核心,它以复杂的方式互连到其他核心。互连设计为使所有内核保持高速运行,因此晶体管可以一起工作。大脑CS-1系统使用的芯片大小相当于WSE硅芯片,该芯片具有1.2万亿个晶体管。这些基本的开关电子开关是硅芯片的基础。英特尔1971年的第一个4004处理器具有2,300个晶体管,而昨天宣布的Nvidia A10080GB芯片具有540亿个晶体管。费尔德曼在接受VentureBeat采访时表示,CS-1的速度也比焦耳超级计算机快200倍,而焦耳超级计算机在世界500强超级计算机中排名第82位。费尔德曼说:“它显示了创纪录的表现。它还表明晶片级技术的应用超越了AI。这些数据是总部位于加利福尼亚的Cerebras采用的一种激进方法的结果,该方法创建了40 10,000个AI核心芯片,而不是将晶圆切割成单个芯片。费尔德曼说,这种不寻常的设计使完成任务变得容易得多,因为处理器和内存彼此靠近,并且连接它们的带宽很大。该方法在不同计算任务中的应用范围问题仍然存在。根据Cerebras和联邦实验室发布的论文,CS-1可以提供任何数量的中央处理单元(CPU)和GPU无法实现的性能,并且中央处理单元和GPU通常用于超级计算机。的。 (现在有70%的顶级超级计算机使用NVIDIA GPU)。费尔德曼补充说:“无论超级计算机有多大,这都是事实。” Cerebras将在本周的SC20 Supercomputing Online上进行演示。 CS-1在计算流体动力学方面的工作量超过了焦耳超级计算机,它可以模拟化油器等地方的流体运动。焦耳超级计算机的建造成本为数千万美元,其中84,000个CPU内核分布在数十个机架上,消耗的功率为450千瓦。根据能源实验室主任Brian Anderson的说法,在此演示中,焦耳超级计算机使用16,384个内核,而Cerebras计算机的速度快了200倍。 Cerebras花费数百万美元,并使用20千瓦的功率。 “对于这些工作负载,晶圆级CS-1是有史以来最快的机器。”费尔德曼说。 “并且它比其他处理器的任何其他组合或群集更快。”一台CerebrasCS-1的高度为26英寸,可以占据机架的三分之一,并由业界唯一的晶圆级处理引擎Cerebras的WSE Provide动力提供动力。它结合了内存性能与大带宽,低延迟处理器间通信以及针对高带宽计算进行了优化的体系结构。该研究由NETL机器学习和数据科学工程师Dirk Van Essendelft和Cerebras联合创始人兼高级技术首席架构师Michael James领导。经过几个月的努力,结果出现了。 2019年9月,能源部宣布与Cerebras建立合作伙伴关系,其中包括与Argonne国家实验室和Lawrence Livermore国家实验室的部署。 CerebrasCS-1于2019年11月发布。CS-1是围绕WSE构建的,其大小是WSE的56倍,内核增加了54倍,片上内存增加了450倍,内存带宽增加了增长了5788倍,并且增长了20833倍。 Cerebras说,与领先的GPU相比,与竞争对手相比,其结构具有更大的带宽。费尔德曼指出,CS-1可以比实时更快地完成计算,这意味着它可以在反应开始时就开始对电厂反应堆堆芯进行仿真,并在反应结束之前就可以完成仿真。 “这些动态建模问题具有有趣的特征,”费尔德曼说。 “它们在CPU和GPU内核之间的可伸缩性较差。用计算科学家的语言,他们没有表现出“强可伸缩性”。这意味着,在一定程度上,超级计算机增加了更多的处理器。不会有addi