这可能有助于解释为什么官方文档中没有描述AMX指令。ARM期望Apple将此类指令保存在客户提供的库中。

很容易将矩阵协处理器与SIMD向量引擎混淆，目前大多数现代处理器（包括ARM处理器）内都有SIMD向量引擎。SIMD是单指令多数据的缩写。

单指令单数据（SISD）与单指令多数据（SIMD）

当你需要对多个元素执行相同的操作时，SIMD是一种获得更高性能的方法。这与矩阵运算密切相关。实际上，SIMD指令（例如ARM的Neon指令或Intel x86SSE或AVX）通常用于加速矩阵乘法。

然而SIMD向量引擎是微处理器内核的一部分。就像ALU（算术逻辑单元）和FPU（浮点单元）是CPU的一部分。在微处理器内部有一个指令解码器，它将对一条指令进行拆分，并决定激活什么功能单元。

在CPU内部，会有ALU、FPU以及SIMD向量引擎，作为独立的部分，由指令解码器激活。而协处理器则是外置在微处理器内核上的。比如英特尔8087，这是最早的协处理器芯片之一，它是一种物理上独立的芯片，旨在加快浮点计算的速度。

对于8087，你可能会很奇怪，为什么有人会想通过拥有一个像这样的单独芯片来使CPU设计复杂化？该芯片必须嗅探从内存到CPU的数据流，以查看是否有任何浮点指令。

原因很简单，第一批PC中的原始8086 CPU包含29,000个晶体管。相比之下，8087要复杂得多，有45,000个晶体管。将这两个芯片结合在一起会非常困难和昂贵。

但是随着制造技术的改进，将浮点单元（FPU）放置在CPU内早已不是问题。因此，因此FPU取代了浮点协处理器。

回到现在，我们还不清楚为什么AMX不是M1上Firestorm核心的一部分。不过无论如何，它们都集成在同一个硅芯片上。在此我们只能提供一些推测，通过成为协处理器，CPU继续并行运行可能会更容易、苹果可能还喜欢将非标准的ARM产品保留在其ARM CPU内核之外等。

如果官方文档中没有描述AMX，我们是怎么发现的呢？这个要感谢开发人员Dougall Johnson，他出色地完成了M1的逆向工程，以发现该协处理器。这里

https://gist.github.com/dougallj/7a75a3be1ec69ca550e7c36dc75e0d6f

描述了他所作的努力。对于与矩阵有关的数学运算，Apple具有特殊的库或框架，例如Accelerate，其组成如下：

• vImage -更高级别的图像处理，例如格式之间的转换，图像处理。
• BLAS —一种线性代数的行业标准（我们称其为处理矩阵和向量的数学方法）。
• BNNS —用于运行神经网络和训练。
• vDSP —数字信号处理。傅立叶变换，卷积。这些是在图像处理或真正包括音频的任何信号中很重要的数学运算。
• LAPACK -更高的水平线性代数函数，例如，用于求解线性方程组。

Dougall Johnson知道这些库将使用AMX协处理器来加快计算速度。因此，他编写了一些特殊程序来分析和观察这些程序做了什么，以发现未记录的特殊AMX机器代码指令。

但为什么苹果公司不记录下来，让我们直接使用这些指令呢？如前所述，这是ARM公司希望避免的事情。如果自定义指令被广泛使用，可能会使ARM生态系统碎片化。

然而更重要的是，这对苹果来说是一个优势。通过仅允许他们的库使用这些特殊指令，苹果保留了以后从根本上改变这个硬件工作方式的自由。他们可以删除或添加AMX指令。或者他们可以让神经引擎来完成这项工作。无论哪种方式，他们都会让开发者的工作变得更容易。开发者只需要使用Accelerate框架，就可以忽略苹果如何专门加快矩阵计算的速度。

这是苹果通过垂直整合获得的最大优势之一。通过控制硬件和软件，他们可以利用这些技巧。那么下一个问题是这有多大的意义？就性能和功能而言，这对苹果有什么好处？

NodLabs是一家从事机器交互，智能和感知的公司。快速矩阵运算自然是他们的兴趣所在。他们写了一篇有关AMX性能测试的技术性很强的博客文章：比较Apple的M1 matmul性能-AMX2 vs NEON。https://nod.ai/comparing-apple-m1-with-amx2-m1-with-neon/