1.数学操作
- add/minus/multiply/divide
- matmul
- pow
- sqrt/rsqrt
- round
2.加减乘除
加法
矩阵乘法
- torch.mm
- 只适用于2d
- torch.matmul
- @
要分清楚是矩阵元素相乘，还是矩阵相乘
例子
x一共有4张照片，每张照片打平成784的向量，希望降维得到[4,512]，所以我们会构造一个w矩阵负责把784降维成512，因此w应该定义为[784,512]，才会得到[4,512]，但是上述代码并没有将w定义成[784,512],因为pytorch默认w的维度是[channel_out,channel_in]即[输出的维度，输入的维度],所以要进行一个转置，如果w是高纬度的要使用transport要交换维度
二维以上的tensor进行矩阵相乘
只取最后的2维进行运算，前面2维保持不变
其实就是支持多个矩阵对并行相乘
pow/sqrt
rsqrt()函数是计算机中用来计算算数平方根倒数的函数
round四舍五入
clamp裁剪
