1.数学操作
- add/minus/multiply/divide
- matmul
- pow
- sqrt/rsqrt
- round
2.加减乘除
加法
矩阵乘法
- torch.mm
- 只适用于2d
- torch.matmul
- @
要分清楚是矩阵元素相乘，还是矩阵相乘
例子
x一共有4张照片，每张照片打平成784的向量，希望降维得到4,512，所以我们会构造一个w矩阵负责把784降维成512，因此w应该定义为784,512，才会得到4,512，但是上述代码并没有将w定义成784,512,因为pytorch默认w的维度是channel_out,channel_in即输出的维度，输入的维度,所以要进行一个转置，如果w是高纬度的要使用transport要交换维度
二维以上的tensor进行矩阵相乘
只取最后的2维进行运算，前面2维保持不变
其实就是支持多个矩阵对并行相乘
pow/sqrt
rsqrt()函数是计算机中用来计算算数平方根倒数的函数
round四舍五入
clamp裁剪
