Activation Function atau Transfer Function

Didalam pembahasan mengenai Neuron Tunggal activation function akan menentukan besarnya keluaran a dari sebuah neuron. Activation function dapat berjenis linear maupun bukan linear.

Activation Function Linear :

1. Hard Limit
2. Symmetrical Hard Limit
3. Linear
4. Saturating Linear
5. Symmetric Saturating Linear
6. Positive Linear
7. Competitive.

Activation Function Bukan Linear

1. Log Sigmoid
2. Hyperbolic Tangent Sigmoid

Hard Limit
Hard limit cara bekerjanya adalah sebagai berikut :

• nilai keluaran a adalah 0 jika nilai n kurang dari 0,
• nilai keluaran a adalah 1 jika nilai n lebih dari 1,

Fungsi ini akan digunakan untuk melakukan klasifikasi biner atau klasifikasi kedalam 2 kategori yang berbeda, seperti laki-laki dan perempuan, diatas dan dibawah batas, dll

Linear
Linear cara bekerjanya adalah sebagai berikut :

• keluaran a diberi nilai n. tanpa dilakukan operasi aritmatik apapun

Neuron dengan fungsi aktivasi atau fungsi transfer ini digunakan didalam jaringan ADALINE.   

Log-Sigmoid 
Fungsi ini digunakan untuk implementasi pada jaringan syaraf yang terdiri dari banyak neuron dan memiliki lebih dari satu lapisan (multilayer). Cara bekerjanya adalah dengan menggunakan persamaan berikut :

• a = i/(1 + e^-n) 

Pada persamaan diatas e nilai aproksimasinya adalah 2.71828

Fungsi lainnya saya belum dapat membahasnya