权重、偏置、激活

权重在输入进入求和之前对其进行缩放。对于正输入，正权重贡献正值，负权重贡献负值；对于负输入，这些符号会反转。

偏置无论输入如何，都会将整体输出向上或向下移动——它设定了神经元的默认倾向。

激活函数对加权和进行变换。Sigmoid 函数将其映射到 0 到 1 的范围；其他激活函数的行为不同。例如，ReLU 对负输入输出 0，且没有上限。0 到 1 之间的值并不自动代表校准后的概率。