矩阵成真！Pytorch最新工具mm，3D可视化矩阵乘法、Transformer注意力

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 来源：新智元 【导读】 Pytorch团队推出的最新3D可视化最新工具mm，能够将矩阵乘法模拟世界还原。 矩阵中的模拟世界，真的来了。 矩阵乘法（matmul），是机器学习中非常重要的运算，特别是在神经网络中扮演着关键角色。 Pytorch团队最新的一篇文章中，介绍了「mm」，一个用于matmuls和matmuls组合的可视化工具。 因为使用了三个空间维度，mm能够有助于建立直觉、激发想法，尤其适合（但不仅限于）视觉/空间思维者。 英伟达高级科学家Jim Fan表示，进入神经网络「矩阵」。 这是一个非常酷的可视化工具，用于矩阵、注意力、并行等等。最好的教育来自最直观的传递。这是一个具有数据并行分割功能的多层感知器。 有了三个维度来组成矩阵乘法，再加上加载训练过权重 ………………………………