Apa itu pembelajaran mendalam? Segala sesuatu yang perlu Anda ketahui

Rendahnya pembelajaran mendalam, termasuk kaitannya dengan bidang pembelajaran mesin yang lebih luas dan cara memulainya.

Apa itu pembelajaran mendalam?

Pembelajaran mendalam adalah bagian dari pembelajaran mesin yang termasuk dalam bidang kecerdasan buatan (AI). Teknologi ini bekerja dengan mengajarkan model komputer untuk belajar melalui contoh, serupa dengan bagaimana seorang anak dapat belajar dari orang tua dan guru.

Dalam istilah yang sangat sederhana, model komputer diperlihatkan gambar-gambar berbeda dari berbagai objek dan diberi tahu apa yang diwakili oleh masing-masing objek. Dengan pelatihan, model dapat belajar mengenali dan mengkategorikan berbagai pola yang terlihat dalam gambar, dan pada akhirnya mengenali serta belajar dari gambar baru yang dilihatnya.

Pembelajaran mendalam sangat penting untuk memfungsikan mobil otonom atau tanpa pengemudi. Mobil tanpa pengemudi menggunakan kombinasi kamera dan sensor untuk menangkap data dari lingkungan sekitarnya, seperti sinyal lalu lintas, pejalan kaki, dan mobil lain di jalan. Kemudian memproses data tersebut untuk menentukan tindakan terbaik: Apakah akan memperlambat, berhenti, melaju, dll.

Bagaimana cara kerja pembelajaran mendalam?

Kemampuan pembelajaran mendalam berbeda dalam beberapa hal utama dari pembelajaran mesin dangkal tradisional, yang memungkinkan komputer memecahkan banyak masalah kompleks.

Teknologi ini menggunakan jaringan saraf, model yang didasarkan pada aktivitas otak manusia. Sama seperti otak yang berisi lapisan-lapisan neuron yang saling berhubungan, jaringan saraf dalam AI juga melakukan hal yang sama, yaitu node-node saling terhubung untuk berbagi informasi.

Melatih jaringan pembelajaran mendalam ini dapat memakan waktu yang sangat lama, memerlukan sejumlah besar data untuk diserap dan diulang seiring sistem secara bertahap menyempurnakan modelnya untuk mencapai hasil terbaik.

Jaringan saraf diperluas menjadi jaringan luas dengan sejumlah besar lapisan yang cukup besar yang dilatih menggunakan data dalam jumlah besar. Jaringan saraf dalam ini telah mendorong lompatan maju dalam kemampuan komputer dalam melakukan pengenalan suara, berbagai kemampuan AI generatif, dan kemajuan dalam bidang kesehatan.

Apa saja contoh pembelajaran mendalam?

Saat ini, pembelajaran mendalam bisa dilakukan di mana saja, mulai dari perusahaan AI yang inovatif hingga asisten suara di ponsel cerdas Anda.

Berikut ini beberapa aplikasi pembelajaran mendalam yang paling populer:

ObrolanGPT

Chatbot OpenAI menggunakan pembelajaran mendalam dan merupakan salah satu model pembelajaran mendalam terbesar yang tersedia. ChatGPT menggunakan trafo terlatih generatif versi 3.5 OpenAI (GPT 3.5), yang menawarkan 175 miliar parameter. Jaringan saraf yang membuat ChatGPT sangat efisien dilatih untuk mempelajari pola dan hubungan dalam bahasa.

Versi keempat dari transformator terlatih generatif (GPT-4) ini secara ahli melakukan tugas pemrosesan bahasa alami (NLP) dengan arsitektur model bahasa besar (LLM) terbesar, yang terdiri dari satu triliun parameter.

Asisten virtual

Asisten suara, seperti Google Assistant, Amazon Alexa, dan Siri dari Apple, menggunakan pembelajaran mendalam untuk pengenalan suara dan NLP. Mereka menerapkan teknik pembelajaran mendalam ini untuk memproses apa yang Anda sampaikan kepada mereka dan merespons dengan tepat dan akurat.

Algoritme pembelajaran mendalam ini juga dapat belajar dari pola interaksi pengguna untuk terus meningkatkan pengalaman pengguna.

Deteksi penipuan

Berbagai entitas dapat menggunakan pembelajaran mendalam untuk mendeteksi dan mencegah penipuan. Lembaga keuangan, misalnya, menggunakan algoritma berbeda untuk mendeteksi penipuan. Salah satu contoh yang mungkin Anda kenal adalah memori jangka pendek (LSTM), sebuah model pembelajaran mendalam yang menandai aktivitas mencurigakan yang menyimpang dari data yang telah dilatihnya.

LSTM adalah jaringan saraf berulang (RNN) yang menangani data berurutan dan menyimpan informasi tentang apa yang diprosesnya untuk mengenali peristiwa menonjol, seperti transaksi yang berpotensi penipuan, untuk menandai adanya intervensi manusia.

Kesehatan

Kecerdasan buatan telah memberikan dampak yang signifikan dalam layanan kesehatan. Teknologi pembelajaran mendalam terbukti berguna dalam mendiagnosis penyakit mata, termasuk retinopati diabetik dan glaukoma, dan bahkan kanker tertentu.

Kemajuan AI dalam bidang kedokteran baru saja dimulai.

Apa itu pembelajaran mesin vs pembelajaran mendalam?

Kecerdasan buatan mencakup banyak bidang penelitian yang dapat membuat mesin mampu melakukan tugas-tugas yang biasanya memerlukan kecerdasan manusia dan dapat berkisar dari algoritma genetika hingga pemrosesan bahasa alami.

Pembelajaran mesin adalah bagian dari AI dan didefinisikan sebagai proses mengajarkan komputer untuk melaksanakan suatu tugas, bukan memprogramnya bagaimana cara melaksanakan tugas tersebut langkah demi langkah.

Pembelajaran mendalam, pada gilirannya, adalah bagian dari pembelajaran mesin, yang kemampuannya berbeda dalam beberapa hal utama dari pembelajaran mesin dangkal tradisional, yang memungkinkan komputer memecahkan sejumlah masalah kompleks yang tidak dapat ditangani tanpanya.

Pembelajaran mesin dapat mengatasi prediksi dangkal saat memasukkan data, seperti menentukan apakah buah dalam foto adalah apel atau jeruk. Pembelajaran mendalam dapat memecahkan masalah yang lebih kompleks, seperti mengenali angka tulisan tangan yang memerlukan data dalam jumlah besar selama pelatihan.

Dalam contoh spesifik yang diilustrasikan di bawah ini, komputer harus mampu mengatasi berbagai macam cara penyajian data. Setiap digit antara 0 dan 9 dapat ditulis dengan berbagai cara: Ukuran dan bentuk persis setiap digit tulisan tangan dapat sangat bervariasi tergantung pada siapa yang menulis dan dalam keadaan apa.

Mengatasi variabilitas fitur-fitur ini, dan kekacauan interaksi yang lebih besar di antara fitur-fitur tersebut, adalah manfaat pembelajaran mendalam dan jaringan saraf mendalam.

Setiap neuron dalam jaringan saraf adalah fungsi matematika yang mengambil data melalui masukan, mengubah data tersebut menjadi bentuk yang lebih mudah diterima, dan kemudian mengeluarkannya melalui keluaran. Anda dapat membayangkan neuron dalam jaringan saraf tersusun berlapis-lapis, seperti yang diilustrasikan pada gambar di bawah.

Diagram sederhana tentang bagaimana jaringan saraf diatur.

Bagaimana cara kerja jaringan saraf dalam?

Pada contoh di atas, saat model mempelajari cara mengenali angka tulisan tangan, Anda dapat melihat gambaran yang sangat sederhana tentang anatomi jaringan saraf.

Semua jaringan saraf memiliki lapisan masukan, tempat data awal dimasukkan, dan lapisan keluaran yang menghasilkan prediksi akhir.

Namun dalam jaringan saraf dalam, mungkin terdapat puluhan ratus lapisan neuron tersembunyi di antara lapisan masukan dan keluaran ini, yang masing-masing menyalurkan data ke lapisan lainnya. Oleh karena itu istilah "mendalam" dalam "pembelajaran mendalam" dan "jaringan saraf dalam"; ini mengacu pada sejumlah besar lapisan tersembunyi di jantung jaringan saraf ini.

Pada grafik di atas, setiap lingkaran mewakili sebuah neuron dalam jaringan, dan mereka disusun dalam lapisan vertikal dan saling berhubungan. Lapisan tersembunyi di jaringan saraf dalam dapat memiliki puluhan ratus lapisan tersembunyi.

Kapan sebaiknya Anda menggunakan pembelajaran mendalam?

Algoritme pembelajaran mendalam dapat mengambil data yang berantakan dan tidak berlabel secara luas, seperti video, gambar, rekaman audio, dan teks, dan menerapkan urutan yang cukup untuk membuat prediksi yang berguna, membangun hierarki fitur yang membentuk seekor anjing atau kucing dalam sebuah gambar atau gambar. bunyi-bunyi yang membentuk suatu kata dalam tuturan.

Oleh karena itu, yang terbaik adalah menggunakan pembelajaran mendalam ketika terdapat sejumlah besar data, dan sebagian besar tidak terstruktur.

Apa kelemahan pembelajaran mendalam?

Salah satu kelemahan terbesarnya adalah jumlah data yang diperlukan untuk pelatihan, yang berarti perlunya akses ke daya komputasi terdistribusi dalam jumlah besar. Persyaratan ini mengakibatkan tingginya biaya pelatihan dan perangkat keras komputer, karena pelatihan mungkin memerlukan perangkat keras yang mahal, seperti GPU kelas atas dan rangkaian GPU.

Kelemahan lainnya adalah jaringan neural dalam sulit untuk dilatih karena beberapa alasan selain sumber daya komputasi.

Beberapa tantangan umum untuk jaringan neural dalam mencakup masalah gradien hilang dan gradien yang meledak, yang dapat memengaruhi metode pembelajaran berbasis gradien; meluangkan waktu yang tepat untuk menyesuaikan hyperparameter, seperti ukuran batch dan kecepatan pelatihan; dan overfitting, ketika kompleksitas jaringan yang tinggi menyebabkan jaringan juga mempelajari noise dalam data pelatihan.

Teknik pembelajaran mendalam apa yang ada?

Ada berbagai jenis jaringan saraf dalam, seperti contoh yang dijelaskan di bawah, dengan struktur yang disesuaikan untuk berbagai tugas.

Daftar ini tetap berubah karena penelitian menghasilkan teknik pembelajaran mendalam baru yang akan dikembangkan seiring berjalannya waktu:

1. Jaringan saraf konvolusional (CNN): Ini cenderung digunakan untuk tugas-tugas visi komputer, karena lapisan awalnya dikhususkan untuk mengekstraksi fitur-fitur berbeda dari sebuah gambar, yang kemudian diproses oleh jaringan saraf yang lebih konvensional untuk dikategorikan gambar.
2. Jaringan neural berulang (RNN): Ini lebih umum untuk bahasa pemrosesan, karena jaringan ini memiliki loop umpan balik bawaan, yang mana keluaran data dari satu lapisan diteruskan kembali ke lapisan sebelumnya, sehingga memberikan jaringan a bentuk memori.
3. Jaringan memori jangka pendek panjang (LSTM): Seperti yang dibahas dalam contoh di atas, LSTM dapat digunakan dalam deteksi penipuan karena mereka unggul dalam menangkap ketergantungan jangka panjang secara berurutan.
4. Jaringan permusuhan generatif (GAN): Paling umum digunakan untuk menghasilkan data, seperti gambar, teks, dan video, GAN menampilkan dua jaringan saraf yang saling bersaing: generator dan diskriminator. Jaringan generator mencoba membuat data sintetik yang meyakinkan, dan diskriminator mencoba membedakan antara data palsu dan data asli.

Ada banyak jenis jaringan saraf dalam yang berbeda. Tidak ada satu jaringan yang secara inheren lebih baik dari jaringan lainnya; mereka hanya lebih cocok untuk mempelajari tugas-tugas tertentu.

Berapa lama waktu yang dibutuhkan untuk melatih model pembelajaran mendalam?

Melatih model pembelajaran mendalam dapat memakan waktu berjam-jam, berminggu-minggu, hingga berbulan-bulan. Waktunya sangat bervariasi, karena bergantung pada faktor-faktor seperti perangkat keras yang tersedia, pengoptimalan, jumlah lapisan dalam jaringan saraf, arsitektur jaringan, ukuran kumpulan data, dan banyak lagi.