भार, बायस, सक्रियण

एक भार किसी आगत संकेत को योग में शामिल होने से पहले स्केल करता है। किसी धनात्मक आगत संकेत के लिए, धनात्मक भार धनात्मक योगदान देता है और ऋणात्मक भार ऋणात्मक योगदान देता है; ऋणात्मक आगत संकेत इन चिह्नों को उलट देता है।

बायस आगत संकेतों की परवाह किए बिना पूरे आउटपुट को ऊपर या नीचे खिसकाता है — यह न्यूरॉन का डिफ़ॉल्ट झुकाव तय करता है।

सक्रियण भारित योग को बदलता है। सिग्मॉइड इसे 0 से 1 की सीमा में बदलता है; दूसरे सक्रियण अलग तरह से व्यवहार करते हैं। उदाहरण के लिए, ReLU ऋणात्मक आगत संकेतों के लिए शून्य होता है और इसकी कोई ऊपरी सीमा नहीं होती। 0 और 1 के बीच की कोई मान अपने-आप कैलिब्रेट की गई प्रायिकता नहीं होती।