AI硬件加速器公司盘点：探索全球科技行业热门领域的最新动态,优化网站主治火19星
栏目：网络推广 发布时间：2025-02-19
机器心脏汇编 在上一篇文章中，普林斯顿大学Adi Fuchs的前Apple 和PhD专注于AI加速器的秘密基石：教学设置架构ISA，可重构处理器等。在本文中，我们将遵循作者的 ... AI硬件加速器公司盘点：探索全球科技行业热门领域的最新动态
机器心脏汇编
在上一篇文章中，普林斯顿大学Adi Fuchs的前Apple 和PhD专注于AI加速器的秘密基石：教学设置架构ISA，可重构处理器等。在本文中，我们将遵循作者的想法来审查相关的AI硬件公司并查看哪些公司在这一领域努力。
这是本系列博客中的第四篇文章，该文章主要介绍与AI加速器相关的公司。全球科技行业中最热门的领域之一是AI硬件。本文回顾了AI硬件行业的当前状态，并概述了公司在寻找解决AI硬件加速问题的最佳方法时所做的不同赌注。
对于许多AI硬件公司而言，近年来似乎是AI硬件开发的黄金时代。在过去的三年中，的股价飙升了约500％，超过了英特尔，成为世界上最高的资本芯片公司。其他初创公司似乎也很热，在过去的几年中，他们花费了数十亿美元来资助AI硬件初创公司，以挑战的AI领导力。
AI硬件初创公司 - 截至2021年4月的总融资。资料来源：
此外，还有一些有趣的获取故事。 2016年，英特尔以3.5亿美元的价格收购，并于2019年底收购了另一家名为该公司的AI初创公司，该公司取代了提供的解决方案。非常有趣的是，英特尔为收购支付了20亿美元，是收购的几倍。
AI芯片字段，或更确切地说，AI加速器字段（到目前为止，它不仅是芯片）包含了无数的解决方案和方法，因此让我们回顾这些方法的主要原理。
AI加速器的不同实现方法
：GPU + CUDA
如果您是可耕地的土地，您希望使用哪一个？两只坚固的母牛还是1024只鸡？ （看起来粘土）
成立于1993年，是最早研究加速计算的主要公司之一。 一直是GPU行业的先驱，后来为游戏机，工作站和笔记本电脑提供了各种GPU产品线，并已成为世界领导者。如先前文章所述，GPU使用数千个简单的核心。相比之下，CPU使用的核心更少。
最初，GPU主要用于图形，但在2000年代中期，它们被广泛用于分子动力学，天气预测和物理模拟等科学应用中。新应用程序和软件框架（例如CUDA）的引入为将新字段移植到GPU的道路，因此GPU逐渐成为通用的GPU（-GPU），称为简称。
挑战：使用GPU赢得错误和百分比。资料来源：
从历史上看，人们可能会说很幸运，因为现代AI开始了CUDA流行和成熟。或者有人可能会争辩说，正是GPU和CUDA的成熟度和普及使研究人员能够轻松有效地开发AI应用程序。无论哪种方式，历史都是由获奖者撰写的 - 实际上，最有影响力的AI研究，例如在GPU上进行和评估，当AI 爆发时，处于最前沿的状态。
SIMT执行模型。资料来源：
GPU遵循单个指令多线程（SIMT）编程模型，其中相同的指令在不同的内核/线程上同时执行，每个指令根据其分配的线程ID执行数据部分。所有内核在框架同步（锁定步骤）中运行线程，从而大大简化了控制流。另一方面，Simt仍然是概念上的多线程C级编程模型，该模型已用于AI，但不是专门为AI设计的。由于神经网络应用程序和硬件处理都可以描述为计算图，因此拥有一个捕获图语义的编程框架更为自然和有效。
从CPU转移到GPU体系结构是朝着正确方向迈出的重要一步，但这还不够。 GPU仍然是传统体系结构，使用与CPU相同的计算模型。 CPU受其体系结构的限制，并在科学应用等领域逐渐被GPU所取代。因此，通过专门为AI设计计算模型和硬件，我们希望能在AI应用程序市场中占有一席之地。
的GPU，CPU和DPU路线图。资料来源：
从两个角度开发AI：（i）引入核心； （ii）通过收购公司。例如，数十亿美元的收购和即将进行的ARM收购。
它首次在数据中心CPU上合作，名为“ Grace”，该中心以美国后将和计算机编程Grace的先驱命名。作为一个高度专用的处理器，GRACE主要针对大型数据密集型HPC和AI应用程序。新一代自然语言处理模型的培训将具有超过1万亿个参数。基于宽限期的系统与GPU紧密集成，并比当前最新的DGX系统（在X86 CPU上运行）高10倍。
GRACE得到HPC软件开发套件的支持，以及一套CUDA和CUDA-X库，以加速2000年GPU应用程序。
成立于2016年。随着AI模型变得更加复杂，需要在训练期间使用更多的记忆，通信和计算能力。因此，设计了晶圆级发动机（WSE），这是一个比萨饼大小的芯片。
。资料来源：IEEE
在称为晶圆的硅晶片上制作典型的加工芯片。作为制造过程的一部分，晶片分为称为芯片的小块，这就是我们所说的处理器芯片。一个典型的晶圆可以容纳数百甚至数千个这样的芯片，每个芯片通常范围从约10平方毫米到830平方英毫米。 A100 GPU被认为是最大的芯片，尺寸为826平方毫米，可以包装542亿晶体管，为大约7,000个加工核心提供动力。
WSE-2与A100规范比较。图片注意：
超级计算机功能不仅可以在一个大型芯片上提供，而且通过与学术机构和美国国家实验室的合作，它们还提供软件堆栈和编译器工具链。它的软件框架基于Lair（ - ）和C ++扩展库，初级程序员可以用来编写内核（类似于CUDA），也可以用来从或其他框架中无缝降低高级代码。
总而言之，非常规的方法吸引了许多行业内部人士。但是较大的芯片意味着核心和处理器由于缺陷而更有可能失败，因此如何控制制造缺陷，如何冷却近一百万个核心，如何同步它们，如何对其进行编程等。一个解决方案，但可以肯定的是，它吸引了许多人的注意。
它是最早推出商业AI加速器的初创公司之一，即IPU（单位）。他们曾与微软，戴尔以及其他商业和学术机构合作。
目前，已经开发了第二代IPU，其解决方案基于一个内部软件堆栈。您可以将基于或ONNX的模型转换为命令式，C ++ - 兼容代码，以支持公司的顶点编程（）。像CUDA一样，还支持低级C ++编程以提高潜在性能。
在上一篇文章中，普林斯顿大学Adi Fuchs的前Apple 和PhD专注于AI加速器的秘密基石：教学设置架构ISA，可重构处理器等。在本文中，我们将遵循作者的想法来审查相关的AI硬件公司并查看哪些公司在这一领域努力。
这是本系列博客中的第四篇文章，该文章主要介绍与AI加速器相关的公司。全球科技行业中最热门的领域之一是AI硬件。本文回顾了AI硬件行业的当前状态，并概述了公司在寻找解决AI硬件加速问题的最佳方法时所做的不同赌注。
对于许多AI硬件公司而言，近年来似乎是AI硬件开发的黄金时代。在过去的三年中，的股价飙升了约500％，超过了英特尔，成为世界上最高的资本芯片公司。其他初创公司似乎也很热，在过去的几年中，他们花费了数十亿美元来资助AI硬件初创公司，以挑战的AI领导力。
AI硬件初创公司 - 截至2021年4月的总融资。资料来源：
此外，还有一些有趣的获取故事。 2016年，英特尔以3.5亿美元的价格收购，并于2019年底收购了另一家名为该公司的AI初创公司，该公司取代了提供的解决方案。非常有趣的是，英特尔为收购支付了20亿美元，是收购的几倍。
AI芯片字段，或更确切地说，AI加速器字段（到目前为止，它不仅是芯片）包含了无数的解决方案和方法，因此让我们回顾这些方法的主要原理。
AI加速器的不同实现方法
：GPU + CUDA
如果您是可耕地的土地，您希望使用哪一个？两只坚固的母牛还是1024只鸡？ （看起来粘土）
成立于1993年，是最早研究加速计算的主要公司之一。 一直是GPU行业的先驱，后来为游戏机，工作站和笔记本电脑提供了各种GPU产品线，并已成为世界领导者。如先前文章所述，GPU使用数千个简单的核心。相比之下，CPU使用的核心更少。
最初，GPU主要用于图形，但在2000年代中期，它们被广泛用于分子动力学，天气预测和物理模拟等科学应用中。新应用程序和软件框架（例如CUDA）的引入为将新字段移植到GPU的道路，因此GPU逐渐成为通用的GPU（-GPU），称为简称。
挑战：使用GPU赢得错误和百分比。资料来源：
从历史上看，人们可能会说很幸运，因为现代AI开始了CUDA流行和成熟。或者有人可能会争辩说，正是GPU和CUDA的成熟度和普及使研究人员能够轻松有效地开发AI应用程序。无论哪种方式，历史都是由获奖者撰写的 - 实际上，最有影响力的AI研究，例如在GPU上进行和评估，当AI 爆发时，处于最前沿的状态。
SIMT执行模型。资料来源：
GPU遵循单个指令多线程（SIMT）编程模型，其中相同的指令在不同的内核/线程上同时执行，每个指令根据其分配的线程ID执行数据部分。所有内核在框架同步（锁定步骤）中运行线程，从而大大简化了控制流。另一方面，Simt仍然是概念上的多线程C级编程模型，该模型已用于AI，但不是专门为AI设计的。由于神经网络应用程序和硬件处理都可以描述为计算图，因此拥有一个捕获图语义的编程框架更为自然和有效。
从CPU转移到GPU体系结构是朝着正确方向迈出的重要一步，但这还不够。 GPU仍然是传统体系结构，使用与CPU相同的计算模型。 CPU受其体系结构的限制，并在科学应用等领域逐渐被GPU所取代。因此，通过专门为AI设计计算模型和硬件，我们希望能在AI应用程序市场中占有一席之地。
的GPU，CPU和DPU路线图。资料来源：
从两个角度开发AI：（i）引入核心； （ii）通过收购公司。例如，数十亿美元的收购和即将进行的ARM收购。
它首次在数据中心CPU上合作，名为“ Grace”，该中心以美国后将和计算机编程Grace的先驱命名。作为一个高度专用的处理器，GRACE主要针对大型数据密集型HPC和AI应用程序。新一代自然语言处理模型的培训将具有超过1万亿个参数。基于宽限期的系统与GPU紧密集成，并比当前最新的DGX系统（在X86 CPU上运行）高10倍。
GRACE得到HPC软件开发套件的支持，以及一套CUDA和CUDA-X库，以加速2000年GPU应用程序。
成立于2016年。随着AI模型变得更加复杂，需要在训练期间使用更多的记忆，通信和计算能力。因此，设计了晶圆级发动机（WSE），这是一个比萨饼大小的芯片。
。资料来源：IEEE
在称为晶圆的硅晶片上制作典型的加工芯片。作为制造过程的一部分，晶片分为称为芯片的小块，这就是我们所说的处理器芯片。一个典型的晶圆可以容纳数百甚至数千个这样的芯片，每个芯片通常范围从约10平方毫米到830平方英毫米。 A100 GPU被认为是最大的芯片，尺寸为826平方毫米，可以包装542亿晶体管，为大约7,000个加工核心提供动力。
WSE-2与A100规范比较。图片注意：
超级计算机功能不仅可以在一个大型芯片上提供，而且通过与学术机构和美国国家实验室的合作，它们还提供软件堆栈和编译器工具链。它的软件框架基于Lair（ - ）和C ++扩展库，初级程序员可以用来编写内核（类似于CUDA），也可以用来从或其他框架中无缝降低高级代码。
总而言之，非常规的方法吸引了许多行业内部人士。但是较大的芯片意味着核心和处理器由于缺陷而更有可能失败，因此如何控制制造缺陷，如何冷却近一百万个核心，如何同步它们，如何对其进行编程等。一个解决方案，但可以肯定的是，它吸引了许多人的注意。
它是最早推出商业AI加速器的初创公司之一，即IPU（单位）。他们曾与微软，戴尔以及其他商业和学术机构合作。
目前，已经开发了第二代IPU，其解决方案基于一个内部软件堆栈。您可以将基于或ONNX的模型转换为命令式，C ++ - 兼容代码，以支持公司的顶点编程（）。像CUDA一样，还支持低级C ++编程以提高潜在性能。