Fungsi Aktivasi pada jaringan saraf tiruan (JST)

Pada kesempatan kali ini saya akan membagikan ilmu kepada teman-teman yang ingin mempelajari mengenai jaringan saraf tiruan atau sering disingkat dengan JST. Tapi disini saya hanya akan membahas mengenai tentang beberapa Fungsi Aktivasi yang sering digunakan pada jaringan saraf tiruan.

Fungsi Aktivasi merupakan operasi matematik yang dikenakan pada sinyal output y. Fungsi ini digunakan untuk mengaktifkan atau menon­aktifkan neuron. Perilaku dari JST ditentukan oleh bobot dan input-output fungsi aktivasi yang ditetapkan. Beberapa fungsi aktivasi yang sering digunakan dalam JST menurut (Sutojo, T., et al 2010) adalah:

 

1.        Fungsi Undak Biner Hard Limit.

Fungsi undak biner ini biasanya digunakan oleh jaringan lapisan tunggal untuk menkonversi nilai input dari suatu variabel yang bernilai kontinu ke suatu nilai output biner (0 atau 1) (Gambar 1). Secara matematis, fungsi undak biner (hard limit) dituliskan sebagai berikut.

 Gambar 1 Fungsi Undak Biner Hard Limit

2.        Fungsi Undak Biner Threshold.

Berbeda dengan fungsi untuk biner Hard Limit, fungsi undak biner threshold menggunakan nilai ambang θ sebagai batasnya (Gambar 2). Secara matematis, fungsi undak biner threshold dituliskan sebagai berikut.

 Gambar 2 Fungsi Undak Biner Thershold

3.        Fungsi Bipolar Symetric Hard limit.

Fungsi bipolar Symetric Hard Limit mempunyai output yang bernilai 1, 0, atau -1 (Gambar 3). Secara matematis, fungsi Symetric hard Limit dituliskan sebagai berikut.

 Gambar 3 Fungsi Bipolar (symetric hard limit)

 

4.        Fungsi Bipolar dengan Threshold.

Fungsi bipolar dengan threshold mempunyai output yang bernilai 1, 0, atau -1 (Gambar 4) untuk batas nilai ambang θ tertentu. Secara matematis, fungsi bipolar dengan thershold dituliskan sebagai berikut.

 Gambar 4 Fungsi Bipolar Dengan Thershold

5.        Fungsi Linear (identitas).

Nilai input dan output pada fungsi linear adalah sama (Gambar 5). Secara matematis, fungsi linear dituliskan sebagai berikut.

Gambar 5 Fungsi Linear (identitas)

6.        Fungsi Saturating Linear.

Fungsi ini akan bernilai 1 jika input-nya lebih dari . Jika nilai input terletak antara -  dan  maka output-nya akan bernilai sama dengan nilai ditambah  Jika nilai input-nya kurang dari -  maka fungsi bernilai 0 (Gambar 6). Secara matematis, fungsi saturating linear dituliskan sebagai berikut. 

Gambar 6 Fungsi Saturating Linear

 7.        Fungsi Symetric Saturating Linear.

Fungsi ini akan bernilai 1 jika input-nya lebih dari 1. Jika nilai input terletak antara -1 dan 1 maka output-nya akan bernilai sama dengan nilai input-nya. Sedangkan jika input-nya kurang daru -1 maka fungsi akan bernilai -1 (Gambar 7). Secara matematis, fungsi symetric saturating linear dituliskan sebagai berikut.

Gambar 7 Fungsi Symetric Saturating Linear

8.        Fungsi Sigmoid Biner

Biasanya fungsi ini digunakan untuk JST yang dilatih menggunakan metode backpropagation. JST yang membutuhkan nilai output yang terletak pada interval 0 sampai 1 sering kali menggunakan fungsi sigmoid biner karena fungsi ini memiliki nilai pada range 0 sampai 1 (Gambar 8). Secara matematis, fungsi sigmoid biner dituliskan sebagai berikut.

 Gambar 8 Fungsi Sigmoid Biner

9.        Fungsi Sigmoid Bipolar

Output dari fungsi sigmoid bipolar memiliki range antara 1 sampai -1 (Gambar 9). Secara matematis, fungsi sigmoid bipolar dirumuskan sebagai berikut.

Fungsi ini hampir sama dengan fungsi hyperbolic tangent. Keduanya memiliki range antara -1 sampai 1. Secara matematis, fungsi hyperbolic tanget dituliskan sebagai berikut.

 Gambar 9 Fungsi Sigmoid Bipolar