人工智能技术的发展前景怎么样？

人工智能技术的发展前景怎么样？世界较大芯片制造商大脑系统公司(Cebralas Systems)揭开了新架构的面纱，该架构能够支持比人脑更大的人工智能模型。目前较大的人工智能模型(如谷歌的Switch Transformer)是建立在大约1万亿个参数上的，大脑建议可以将其与大脑中的突触进行粗略的比较，大脑中的突触有100万亿个。通过综合利用各种技术(并在世界上较大的芯片晶圆级引擎2(WSE-2)的帮助下)，大脑现在已经创建了一个能够支持超过120万亿参数的人工智能模型的单一系统。

脑尺度人工智能

目前，较大的AI模型由GPU集群提供动力，虽然GPU集群非常适合AI工作负载，但主要是为视频游戏的需求而设计的。大脑选择了一种不同的方法，开发专门为人工智能设计的大规模个人芯片。

一块WSE-2芯片只有晶圆大小，21厘米宽，由2.6万亿个晶体管和85万个AI优化核心组成。相比之下，较大的GPU直径不到3厘米，只有540亿个晶体管，核数减少了123倍。

通过使用公司较新的互连技术将许多CS-2系统(由WSE-2提供动力的机器)连接在一起，大脑可以支持更大的人工智能网络，其规模是大脑的许多倍。

“今天，塞伯拉斯通过将较大网络的规模增加100倍，推动了行业的发展，”塞伯拉斯首席执行官安德鲁·费尔德曼(Andrew Feldman)说该行业正在超越1万亿个参数模型，我们正在将这一界限扩大两个数量级，使大脑规模的神经网络具有120万亿个参数。”

Argonne国家实验室副主任Rick Stevens进一步阐述了性能和参数体积之间的关系，以及新的大脑系统可能开启的机会。

他说：“过去几年向我们表明，对于自然语言处理(NLP)模型，洞察与参数直接相关——参数越多，结果越好。”。

“大脑”的发明将使参数容量增加100倍，可能有可能改变该行业。这是我们第一次能够探索大脑大小的模型，为研究和洞察开辟了广阔的新途径。”

新技术

尽管WSE-2发挥着重要作用，但如果没有一些新的补充技术，新的CS-2集群系统是不可能实现的：权重流、内存X、SwarmX和可选稀疏性。

权重流被描述为一种软件执行架构，通过分解内存和计算，有效地提高了WSE-2芯片的潜在处理能力。它提供了在片外存储参数的能力，释放了WSE-2的容量，而不会产生通常困扰群集系统的延迟和带宽问题。

这些参数存储在外部MemoryX机柜中，该机柜将40GB片上SRAM内存扩展为高达2.4PB的额外内存，由于采用了新的SwarmX互连结构，该内存的性能与片上内存类似。

据赛伯拉斯称，SwarmX允许CS-2集群实现几乎线性的性能扩展(即，一组10台机器将提供比单个CS-2高10倍的性能)，并可用于连接多达192个系统，使多达1.63亿AI优化核心的集群成为可能。

谜题的较后一个部分是可选择稀疏性，这是一种新型算法，据说可以通过减少求解所需的计算工作量来帮助CS-2更快地生成回答。

“这种技术组合将允许用户解锁大脑规模的神经网络，并轻松地将工作分配到大量人工智能优化核心集群上。有了这一点，大脑在模型大小、计算集群马力和编程简单性方面树立了一个新的基准。”Stevens说。

虽然目前能够利用大脑级人工智能系统的组织数量有限，但大脑已经为人工智能模型的范围和潜力的巨大飞跃奠定了基础，这些模型可以释放超出当前想象领域的机会。