Vægte, bias, aktivering

En vægt skalerer et input, før det indgår i summen. For et positivt input bidrager en positiv vægt positivt, og en negativ vægt bidrager negativt; et negativt input vender disse fortegn om.

Bias forskyder hele outputtet op eller ned uanset inputtene — den bestemmer neuronens grundtendens.

Aktiveringen transformerer den vægtede sum. En sigmoid afbilder den til intervallet 0 til 1; andre aktiveringsfunktioner opfører sig anderledes. ReLU er for eksempel nul for negative input og har ingen øvre grænse. En værdi mellem 0 og 1 er ikke automatisk en kalibreret sandsynlighed.