Tutorial Pembelajaran Mendalam untuk Pemula: Dasar-dasar Jaringan Syaraf Tiruan

โšก Ringkasan Cerdas

Deep Learning adalah cabang dari pembelajaran mesin yang dibangun di atas jaringan saraf tiruan yang menumpuk banyak lapisan tersembunyi, sehingga setiap lapisan mempelajari fitur data yang lebih kaya daripada lapisan sebelumnya.

  • ๐Ÿ”˜ Arsitektur berlapis: Sebuah jaringan saraf yang dalam terdiri dari lapisan input, dua atau lebih lapisan tersembunyi, dan satu lapisan output.
  • โ˜‘๏ธ Signal kekuatan: Bobot, bias, dan fungsi aktivasi menentukan apa yang diteruskan setiap neuron ke lapisan berikutnya.
  • โœ… Siklus dua fase: Transformasi nonlinier menghasilkan sebuah model, kemudian metode berbasis turunan memperbaikinya, dan proses ini diulang hingga akurasi yang dicapai dapat diterima.
  • ๐Ÿงช Empat arsitektur: Jaringan feed-forward, jaringan rekuren, jaringan konvolusional, dan agen pembelajaran penguatan.
  • ๏ธ Di mana hal itu menguntungkan: Penilaian kredit di bidang keuangan, penyaringan kandidat di bidang SDM, analisis sentimen pusat panggilan di bidang pemasaran.
  • โš™๏ธ Batasan sebenarnya: Biaya pelabelan, kebutuhan akan kumpulan data yang sangat besar, dan model yang sulit dijelaskan dengan bahasa sederhana.

Tutorial Pembelajaran Mendalam untuk Pemula: Dasar-dasar Jaringan Syaraf Tiruan

Apa itu Deep Learning?

Deep Learning adalah perangkat lunak komputer yang meniru jaringan neuron di otak. Ini adalah bagian dari Mesin belajar Berdasarkan jaringan saraf tiruan dengan pembelajaran representasi. Disebut pembelajaran mendalam karena memanfaatkan jaringan saraf yang dalam. Pembelajaran ini dapat berupa... diawasi, semi-supervised atau tidak diawasi.

Algoritma pembelajaran mendalam dibangun dengan lapisan-lapisan yang terhubung, seperti yang ditunjukkan pada diagram di bawah ini.

  • Lapisan pertama disebut Lapisan Input
  • Lapisan terakhir disebut Lapisan Keluaran
  • Semua lapisan di antaranya disebut Lapisan Tersembunyi. Kata "dalam" berarti jaringan tersebut menghubungkan neuron di lebih dari dua lapisan.
Diagram jaringan saraf dalam yang menunjukkan lapisan masukan, dua lapisan tersembunyi neuron, dan lapisan keluaran.
Lapisan masukan, lapisan tersembunyi, dan lapisan keluaran, dengan koneksi yang berjalan di antara masing-masing neuron.

Setiap lapisan tersembunyi terdiri dari neuron. Neuron-neuron tersebut terhubung satu sama lain. Sebuah neuron memproses sinyal masukan yang diterimanya dan kemudian menyebarkan hasilnya ke lapisan di atasnya. Kekuatan sinyal yang diteruskan ke neuron di lapisan berikutnya bergantung pada bobot, bias, dan fungsi aktivasi.

Jaringan tersebut mengonsumsi sejumlah besar data masukan dan memprosesnya melalui beberapa lapisan, sehingga jaringan dapat mempelajari fitur data yang semakin kompleks di setiap lapisannya.

Proses Pembelajaran Mendalam

Jaringan saraf dalam (deep neural network) memberikan akurasi terbaik dalam banyak tugas, mulai dari deteksi objek hingga pengenalan suara. Jaringan semacam ini dapat belajar secara otomatis, tanpa pengetahuan yang telah ditentukan sebelumnya yang secara eksplisit dikodekan oleh para programmer. Dalam praktiknya, sebuah proyek pembelajaran mendalam (deep learning) melewati lima tahapan:

  • Pahami masalahnya
  • Identifikasi data
  • Pilih algoritma pembelajaran mendalam
  • Latih modelnya
  • Uji modelnya
Proses pembelajaran mendalam lima tahap, mulai dari memahami masalah hingga menguji model.

Lima tahapan proyek pembelajaran mendalam, dari definisi masalah hingga pengujian.

Untuk memahami konsep pembelajaran mendalam, bayangkan sebuah keluarga dengan seorang bayi dan orang tuanya. Balita itu menunjuk benda-benda dengan jari kelingkingnya dan selalu mengucapkan kata 'kucing'. Karena orang tuanya khawatir tentang pendidikannya, mereka terus mengatakan kepadanya 'Ya, itu kucing' atau 'Tidak, itu bukan kucing'. Bayi itu terus menunjuk benda-benda tetapi menjadi lebih akurat dengan kata 'kucing'. Jauh di lubuk hatinya, anak kecil itu tidak tahu mengapa ia bisa mengatakan itu kucing atau bukan. Ia hanya belajar untuk mengatur ciri-ciri yang membentuk seekor kucing ke dalam sebuah hierarki, melihat hewan peliharaan itu secara keseluruhan dan kemudian fokus pada detail seperti ekor atau hidung sebelum mengambil keputusan.

Jaringan saraf bekerja dengan cara yang hampir sama. Setiap lapisan mewakili tingkat pengetahuan yang lebih dalam, yaitu, hierarki pengetahuan. Jaringan saraf dengan empat lapisan akan mempelajari fitur yang lebih kompleks daripada jaringan saraf dengan dua lapisan.

Pembelajaran terjadi dalam dua fase:

  • Fase pertama: Menerapkan transformasi nonlinier pada input dan membuat model statistik sebagai output.
  • Fase kedua: meningkatkan model dengan metode matematika berdasarkan turunan, yang merupakan caranya propagasi mundur menyesuaikan bobot.

Jaringan saraf mengulangi kedua fase ini ratusan hingga ribuan kali sampai mencapai tingkat akurasi yang dapat diterima. Setiap pengulangan kedua fase ini disebut iterasi.

Sebagai contoh pembelajaran mendalam, perhatikan animasi di bawah ini, di mana model tersebut mencoba belajar menari. Setelah 10 menit pelatihan, model tersebut tidak tahu cara menari, dan hasilnya terlihat seperti coretan.

Figur animasi bergerak tidak beraturan setelah sepuluh menit pelatihan pembelajaran mendalam.

Setelah 48 jam belajar, komputer menguasai seni menari, seperti yang ditunjukkan pada animasi kedua.

Figur animasi menari dengan lancar setelah empat puluh delapan jam pelatihan pembelajaran mendalam.

Klasifikasi Jaringan Syaraf Tiruan

Jaringan pertama-tama dikelompokkan berdasarkan jumlah lapisan tersembunyi.

Jaringan saraf dangkal: Jaringan saraf dangkal hanya memiliki satu lapisan tersembunyi di antara input dan output.

Jaringan saraf dalam: Jaringan saraf dalam (deep neural networks) memiliki lebih dari satu lapisan tersembunyi. Misalnya, model GoogLeNet untuk pengenalan gambar memiliki 22 lapisan.

Saat ini, pembelajaran mendalam (deep learning) muncul di mobil tanpa pengemudi, telepon seluler, dan lain-lain. Google mesin pencari, deteksi penipuan, dan televisi.

Jenis Jaringan Pembelajaran Mendalam

Beberapa arsitektur telah menjadi standar, masing-masing dibentuk oleh jenis data yang ditanganinya. Bagan di bawah ini, yang diterbitkan oleh Institut Asimov, memetakan keluarga arsitektur yang lebih luas.

Diagram arsitektur jaringan saraf termasuk perceptron, feed forward, RBF, RNN, LSTM, GRU, dan autoencoder.

Bagan arsitektur jaringan saraf, dari perceptron tunggal hingga varian LSTM, GRU, dan autoencoder.

Jaringan saraf umpan maju

Ini adalah jenis jaringan saraf tiruan yang paling sederhana. Dengan arsitektur jenis ini, informasi mengalir hanya dalam satu arah, yaitu maju. Artinya, aliran informasi dimulai dari lapisan input, menuju lapisan "tersembunyi", dan berakhir di lapisan output. Jaringan ini tidak memiliki loop, dan informasi berhenti di lapisan output.

Jaringan saraf berulang (RNNs)

An RNN RNN adalah jaringan saraf berlapis yang dapat menyimpan informasi dalam node konteks, sehingga memungkinkan jaringan tersebut untuk mempelajari urutan data dan menghasilkan angka atau urutan lainnya. Sederhananya, ini adalah jaringan saraf buatan yang koneksi antar neuronnya mencakup loop. RNN sangat cocok untuk memproses urutan input, karena outputnya dimasukkan kembali ke dalam jaringan sebagai memori.

Diagram blok jaringan saraf berulang dengan output yang diumpankan kembali ke dalam jaringan sebagai memori.

RNN mengirimkan outputnya kembali ke dirinya sendiri, yang memberikan memori pada jaringan tersebut.

Sebagai contoh, jika tugasnya adalah memprediksi kata selanjutnya dalam kalimat โ€œApakah Anda menginginkan โ€ฆ?โ€, jaringan tersebut akan bekerja seperti ini:

  • Neuron RNN menerima sinyal yang menunjukkan awal kalimat.
  • Jaringan menerima kata "Do" sebagai input dan menghasilkan vektor angka. Vektor ini kemudian dikembalikan ke neuron untuk memberikan memori pada jaringan. Tahap ini membantu jaringan mengingat bahwa ia telah menerima "Do" dan menerimanya di posisi pertama.
  • Jaringan tersebut melanjutkan proses yang serupa untuk kata-kata berikutnya. Jaringan tersebut menerima kata "kamu" dan kemudian "ingin". Keadaan neuron diperbarui setelah menerima setiap kata.
  • Tahap terakhir terjadi setelah menerima kata "a". Jaringan saraf memberikan probabilitas untuk setiap kata bahasa Inggris yang dapat melengkapi kalimat. RNN yang terlatih dengan baik mungkin memberikan probabilitas tinggi untuk "cafรฉ", "drink", "burger", dan kata-kata serupa.

Penggunaan umum RNN

  • Membantu pedagang sekuritas untuk menghasilkan laporan analitik
  • Mendeteksi anomali dalam laporan keuangan
  • Mendeteksi transaksi kartu kredit yang curang
  • Berikan keterangan untuk gambar
  • Daya chatbots
  • Penggunaan standar RNN terjadi ketika para praktisi bekerja dengan data deret waktu atau urutan, misalnya rekaman audio atau teks.

Jaringan saraf konvolusi (CNN)

A CNN adalah jaringan saraf berlapis-lapis dengan arsitektur unik yang dirancang untuktracCNN memproses fitur data yang semakin kompleks di setiap lapisan untuk menentukan output. CNN sangat cocok untuk tugas-tugas perseptual.

Arsitektur CNN dengan tahap pembelajaran fitur konvolusi, ReLU, dan pooling, diikuti oleh flatten, fully connected, dan klasifikasi softmax.

Pembelajaran fitur melalui konvolusi, ReLU, dan pooling; klasifikasi melalui flatten, fully connected, dan softmax.

CNN sebagian besar digunakan ketika terdapat kumpulan data yang tidak terstruktur, seperti gambar, dan para praktisi perlu mengekstraksi data tersebut.tracinformasi darinya.

Misalnya, jika tugasnya adalah memprediksi keterangan gambar:

  • CNN menerima gambar, misalnya, seekor kucing. Dalam istilah komputasi, gambar ini adalah kumpulan piksel, umumnya satu lapisan untuk gambar skala abu-abu dan tiga lapisan untuk gambar berwarna.
  • Selama tahap pembelajaran fitur, yaitu lapisan tersembunyi, jaringan mengidentifikasi fitur-fitur unik, misalnya ekor kucing atau telinga.
  • Setelah jaringan benar-benar mempelajari cara mengenali sebuah gambar, jaringan tersebut dapat memberikan probabilitas untuk setiap kelas gambar yang dikenalnya. Label dengan probabilitas tertinggi menjadi prediksi jaringan tersebut.

Pembelajaran Penguatan

Pembelajaran penguatan Deep learning adalah subbidang pembelajaran mesin di mana sistem dilatih dengan menerima "hadiah" atau "hukuman" virtual, pada dasarnya belajar melalui coba-coba. Ini adalah paradigma pembelajaran, bukan bentuk jaringan, tetapi algoritma modernnya dibangun di atas jaringan deep learning. GoogleDeepMind menggunakan pembelajaran penguatan (reinforcement learning) untuk mengalahkan juara manusia dalam permainan Go. Pembelajaran penguatan juga digunakan dalam permainan video untuk meningkatkan pengalaman bermain game dengan menyediakan bot yang lebih cerdas.

Beberapa algoritma yang paling terkenal adalah:

  • Q-belajar
  • Jaringan Q dalam
  • Aksi-Negara-Penghargaan-Tindakan-Negara (SARSA)
  • Gradien Kebijakan deterministik mendalam (DDPG)

Tabel di bawah ini merangkum kapan setiap arsitektur cocok digunakan.

Architekstur Data yang sesuai Ciri pembeda Tugas khas
Umpan maju Input tabel dengan panjang tetap Tidak ada perulangan; informasi hanya bergerak maju. Pemberian skor dan klasifikasi sederhana
Berulang (RNN) Urutan dan deret waktu Node konteks memberikannya memori. Prediksi teks, audio, peramalan
Jaringan saraf konvolusional (CNN) Data tidak terstruktur berbentuk grid Konvolusi dan pooling contohtracfitur t Klasifikasi dan pemberian keterangan gambar
Pembelajaran penguatan Lingkungan, bukan kumpulan data Belajar dari imbalan dan hukuman Agen game, robotika, kontrol

Contoh Aplikasi Deep Learning

Arsitektur-arsitektur ini sudah diterapkan di berbagai industri yang sangat berbeda:

AI di bidang Keuangan

Sektor teknologi keuangan telah mulai menggunakan AI untuk menghemat waktu, mengurangi biaya, dan menambah nilai. Pembelajaran mendalam mengubah industri pinjaman melalui penilaian kredit yang lebih kuat. Pengambil keputusan kredit dapat menggunakan AI untuk aplikasi pinjaman kredit guna mencapai penilaian risiko yang lebih cepat dan akurat, menggunakan kecerdasan mesin untuk mempertimbangkan karakter dan kapasitas pemohon.

Underwrite adalah perusahaan fintech yang menyediakan solusi AI untuk pengambil keputusan kredit. underwrite.ai menggunakan AI untuk mendeteksi pelamar mana yang lebih mungkin membayar kembali pinjaman, sebuah pendekatan yang menurut perusahaan mengungguli sistem penilaian tradisional.

AI dalam SDM

Under Armour, sebuah perusahaan pakaian olahraga, revolutUnder Armour melakukan polarisasi dalam perekrutan dan memodernisasi pengalaman kandidat dengan bantuan AI. Under Armour menghadapi lonjakan minat pada tahun 2012 dan menerima, rata-rata, lebih dari 30,000 lamaran per bulan. Membaca semua lamaran tersebut dan kemudian memulai proses penyaringan dan wawancara memakan waktu terlalu lama. Proses yang panjang untuk merekrut dan melakukan onboarding karyawan memengaruhi kemampuan Under Armour untuk memiliki toko ritel yang lengkap, siap beroperasi, dan siap bekerja.

Pada saat itu, Under Armour telah memiliki semua teknologi SDM yang 'wajib dimiliki', seperti solusi transaksional untuk pencarian kandidat, proses lamaran, tracUnder Armour telah mempertimbangkan berbagai metode, termasuk perencanaan dan orientasi karyawan, tetapi alat-alat tersebut saja tidak cukup. Mereka memilih HireVue, penyedia solusi SDM berbasis AI, untuk wawancara sesuai permintaan dan wawancara langsung. Hasilnya sangat mencๆƒŠไบบ: perusahaan melaporkan pengurangan waktu pengisian posisi sebesar 35% sekaligus meningkatkan kualitas staf yang direkrut.

AI dalam Pemasaran

AI merupakan alat yang berharga untuk manajemen layanan pelanggan dan tantangan personalisasi. Peningkatan pengenalan suara dalam manajemen pusat panggilan dan pengalihan panggilan, sebagai hasil dari penerapan teknik AI, memungkinkan pengalaman yang lebih lancar bagi pelanggan.

Sebagai contoh, analisis pembelajaran mendalam pada audio memungkinkan sistem untuk menilai nada emosional pelanggan. Jika pelanggan memberikan respons yang buruk terhadap chatbot AI, sistem dapat mengalihkan percakapan ke operator manusia sungguhan yang akan menangani masalah tersebut.

Selain tiga contoh pembelajaran mendalam di atas, AI banyak digunakan di sektor dan industri lainnya.

Mengapa Pembelajaran Mendalam itu Penting?

Deep learning adalah alat yang ampuh untuk mengubah prediksi menjadi hasil yang dapat ditindaklanjuti. Deep learning unggul dalam penemuan pola dan prediksi berbasis pengetahuan. Big data adalah bahan bakar untuk pembelajaran mendalam. Ketika keduanya digabungkan, sebuah organisasi dapat menuai hasil dalam produktivitas, penjualan, manajemen, dan inovasi yang sebelumnya berada di luar jangkauan.

Deep learning juga dapat mengungguli metode tradisional. Khususnya pada masalah persepsi, jaringan deep learning telah menjadi yang terbaik selama bertahun-tahun: klasifikasi gambar, pengenalan suara, dan pengenalan wajah semuanya didominasi oleh arsitektur deep learning, dengan model pengenalan wajah mencapai akurasi mendekati 99% pada benchmark publik standar. Keunggulan ini berasal dari kemampuan jaringan untuk mempelajari fitur-fiturnya sendiri daripada bergantung pada fitur yang dirancang secara manual.

Keterbatasan Deep Learning

Hasil tersebut datang dengan biaya yang nyata.

Pelabelan data

Sebagian besar model AI saat ini dilatih melalui pembelajaran terawasi. Artinya, manusia harus memberi label dan mengkategorikan data yang mendasarinya, yang bisa menjadi tugas yang besar dan rawan kesalahan. Misalnya, perusahaan mengembangkanping Teknologi mobil otonom mempekerjakan ratusan orang untuk secara manual memberi anotasi pada berjam-jam rekaman video dari kendaraan prototipe guna melatih sistem ini.

Dapatkan kumpulan data pelatihan yang besar

Telah terbukti bahwa teknik pembelajaran mendalam seperti CNN, dalam beberapa kasus, dapat meniru pengetahuan para ahli di bidang kedokteran dan bidang lainnya. Namun, gelombang pembelajaran mesin tersebut membutuhkan kumpulan data pelatihan yang tidak hanya diberi label tetapi juga cukup luas dan universal.

Metode pembelajaran mendalam membutuhkan ribuan pengamatan agar model menjadi relatif baik dalam tugas klasifikasi dan, dalam beberapa kasus, jutaan agar dapat berkinerja setara dengan manusia. Tidak mengherankan, pembelajaran mendalam paling umum di perusahaan teknologi raksasa, yang menggunakan big data untuk mengumpulkan petabyte contoh. Skala tersebut memungkinkan mereka untuk menciptakan model pembelajaran mendalam yang mengesankan dan sangat akurat.

Jelaskan suatu masalah

Model yang besar dan kompleks bisa sulit dijelaskan dengan bahasa manusia, misalnya mengapa keputusan tertentu diambil. Ini adalah salah satu alasan mengapa penerimaan terhadap beberapa hal kecerdasan buatan Alat ini lambat di area aplikasi di mana interpretasi berguna atau bahkan diperlukan.

Selain itu, seiring dengan meluasnya penerapan AI, persyaratan peraturan juga dapat mendorong kebutuhan akan model AI yang lebih dapat dijelaskan.

Pertanyaan Umum Demo Slot

Klasik Mesin belajar Membutuhkan fitur yang dirancang secara manual dan bekerja dengan baik pada data tabular kecil. Deep learning mempelajari fitur sendiri dari data mentah yang tidak terstruktur, tetapi membutuhkan lebih banyak contoh dan daya komputasi.

Algoritma ini memperkenalkan non-linearitas, sehingga lapisan bertumpuk dapat memodelkan batas keputusan yang melengkung alih-alih menyusut menjadi satu langkah linier. ReLU adalah fungsi default yang biasa digunakan pada lapisan tersembunyi; sigmoid dan softmax membentuk output.

Backpropagation mengukur seberapa besar kontribusi setiap bobot terhadap kesalahan, kemudian menelusuri gradien tersebut mundur melalui lapisan-lapisan sehingga setiap bobot digeser ke arah yang menurunkan kerugian. Ini adalah fase kedua yang sedang berjalan.

Epoch adalah satu kali pemrosesan penuh data pelatihan. Ukuran batch adalah jumlah sampel yang dilihat jaringan sebelum memperbarui bobot. Tingkat pembelajaran mengontrol seberapa besar setiap pembaruan bobot tersebut.

Transformer, yang diperkenalkan pada tahun 2017, menggantikan rekurensi dengan perhatian, memungkinkan setiap token untuk melihat setiap token lainnya secara bersamaan. Karena berjalan secara paralel, transformer memiliki skalabilitas yang jauh lebih baik daripada RNN dan kini mendominasi pekerjaan di bidang pengolahan bahasa dan visi komputer.

Pelatihan sebagian besar melibatkan perkalian matriks besar, yang dijalankan GPU secara paralel dengan bandwidth memori yang sangat tinggi. Memindahkan CNN atau transformer dari CPU ke satu GPU pelatihan biasanya menghasilkan peningkatan kecepatan beberapa kali lipat.

Alat pencarian arsitektur neural dan AutoML menguji jumlah lapisan, lebar, dan hyperparameter, kemudian mempertahankan kandidat mana pun yang tervalidasi terbaik. Mereka mengurangi proses manual secara drastis, meskipun seseorang masih menetapkan tujuan dan anggaran komputasi.

Kopilot GitHub draft TensorFlow dan PyTorMelatih loop dari perintah singkat. Periksa sendiri bentuk input, fungsi kerugian, dan seed, karena kode standar yang dihasilkan seringkali salah.

Ringkaslah postingan ini dengan: