机器学习学习笔记

三种python编译方式：python文件每次整体运行，python控制台以每一块运行，以任意行块运行。

张量，表示一个由数值组成的数组，具有一个轴的张量对应数学上的向量，具有两个轴的张量对应数学上的矩阵，两个以上数学上没有特定名称。

Sigmoid函数：

tanh，即双曲正切函数

全连接神经网络训练过程

1.训练：

1000份->x->y 100份个（x，y)

2.搭建模型model

3开始训练：参数{学习率a;学习训练轮...}

3.1 前先传播得出y

3.2 计算误差

3.3 反向传播（利用梯度下降）

3.4直到训练轮数结束

3.5产生model(w,b更新完毕）

4.开始测试x->y

5.应用

卷积神经网络运算过程（Alex,resnet,yoloV5)

输入特征图，给定步幅，卷积核，得出结果，不同通道最终相加

池化操作

最大池化和平均池化

优化器（SGD,Adam）更新模型参数

# 使用Adam优化器，学习率为0.001
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)

损失函数

均方误差损失函数（回归）

交叉熵损失函数（均方差）