Bobot, bias, aktivasi

Bobot menskalakan input sebelum input itu masuk ke dalam jumlah. Untuk input positif, bobot positif memberikan kontribusi positif dan bobot negatif memberikan kontribusi negatif; input negatif membalik tanda-tanda tersebut.

Bias menggeser seluruh keluaran ke atas atau ke bawah, apa pun inputnya — bias menentukan kecenderungan awal neuron.

Aktivasi mengubah jumlah berbobot. Sigmoid memetakannya ke rentang 0 hingga 1; fungsi aktivasi lainnya berperilaku berbeda. Misalnya, ReLU bernilai nol untuk input negatif dan tidak memiliki batas atas. Nilai antara 0 dan 1 tidak otomatis merupakan probabilitas yang terkalibrasi.