Apa itu ObrolanGPT? Manfaat chatbot AI paling populer di dunia bagi Anda
VP of AI DigitalOcean mengungkapkan bagaimana startup dapat membangun solusi AI dengan lebih cepat dan lebih murah untuk mendobrak hambatan di bidang yang didominasi oleh perusahaan besar dan hyperscaler.
Saya telah menjadi pelanggan DigitalOcean selama bertahun-tahun. Ketika saya pertama kali mengenal perusahaan ini pada tahun 2016, perusahaan ini menyediakan server Linux yang sangat mudah untuk dijalankan dengan berbagai distro sebagai opsi. Ini membedakan dirinya dari penyedia hosting web dengan menawarkan infrastruktur -- bukan perangkat lunak -- sebagai layanan.
Dillon Erb, Wakil Presiden DigitalOcean
Sebagian besar penyedia hosting web memberi Anda panel kontrol untuk menavigasi pengalaman hosting web untuk situs Anda. Anda tidak memiliki kendali atas mesin virtual. Apa yang dilakukan DigitalOcean adalah memberi Anda server virtual bare-metal, memungkinkan Anda melakukan apa pun yang Anda inginkan. Ini sangat menarik bagi saya.
DigitalOcean pada dasarnya adalah Amazon Web Services (AWS) tetapi dengan struktur harga yang jauh lebih mudah dipahami. Saat saya pertama kali menjalankan server di dalamnya, biayanya jauh lebih murah dibandingkan AWS untuk jenis pekerjaan yang saya lakukan. DigitalOcean telah memperluas penawaran layanannya untuk menyediakan beragam kemampuan infrastruktur, semuanya di cloud.
Selain server Linux virtual bare-metal, saya belum pernah menggunakan kemampuan tambahannya, namun saya tetap menghargai kemampuan untuk memutar naik dan turun mesin Linux dengan cepat dan mudah untuk tujuan apa pun, dan dengan harga yang sangat wajar. Saya melakukan ini untuk menguji sistem, menjalankan beberapa server dengan lalu lintas rendah, dan secara umum sebagai bagian dari infrastruktur saya yang diperluas.
Dengan adanya dorongan besar pada kecerdasan buatan (Al), masuk akal jika DigitalOcean juga mulai menyediakan infrastruktur untuk operasi Al. Hal itulah yang akan kita jelajahi hari ini bersama Dillon Erb, wakil presiden advokasi dan kemitraan AI di perusahaan tersebut. Mari kita gali lebih dalam.
ZDNET: Bisakah Anda memberikan gambaran singkat tentang peran Anda di DigitalOcean?
Dillon Erb: Saya adalah salah satu pendiri dan CEO perusahaan komputasi awan GPU khusus pertama bernama Paperspace. Pada bulan Juli 2023, Paperspace diakuisisi oleh DigitalOcean untuk menghadirkan peralatan AI dan infrastruktur GPU ke khalayak baru yang terdiri dari penghobi, pengembang, dan bisnis.
Saat ini saya adalah VP Strategi AI dan saya sedang mengerjakan penawaran produk menarik serta kemitraan ekosistem utama untuk memastikan bahwa DigitalOcean dapat terus menjadi cloud pilihan bagi para pengembang.
ZDNET: Proyek AI apa yang paling menarik yang sedang Anda kerjakan di DigitalOcean?
DE: Memperluas cloud GPU kami ke skala yang lebih besar untuk mendukung orientasi cepat bagi pengembang perangkat lunak generasi baru yang menciptakan masa depan kecerdasan buatan.
Integrasi mendalam peralatan AI di seluruh Platform DigitalOcean untuk memungkinkan platform komputasi awan asli AI yang efisien.
Menghadirkan kekuatan penuh komputasi GPU dan LLM ke basis pelanggan kami yang ada untuk memungkinkan mereka secara konsisten memberikan nilai lebih kepada pelanggan mereka.
ZDNET: Faktor historis apa yang berkontribusi terhadap dominasi perusahaan besar dalam pengembangan AI?
DE: Biaya GPU adalah alasan yang paling banyak dibicarakan mengapa AI menyulitkan tim kecil dan pengembang untuk membangun produk AI yang kompetitif. Biaya pra-pelatihan model bahasa besar (LLM) bisa sangat besar, membutuhkan ribuan, bahkan ratusan ribu GPU.
Namun, terdapat juga kesenjangan peralatan yang menyulitkan pengembang untuk menggunakan GPU meskipun mereka memiliki akses ke GPU tersebut. Di Paperspace, kami membangun platform menyeluruh untuk pelatihan dan penerapan model AI.
Fokus kami pada kesederhanaan, pengalaman pengembang, dan transparansi biaya berlanjut di DigitalOcean di mana kami memperluas penawaran produk kami secara substansial dan membangun integrasi mendalam dengan seluruh rangkaian produk DigitalOcean.
ZDNET: Bisakah Anda mendiskusikan tantangan yang dihadapi startup ketika mencoba memasuki dunia AI?
DE: Akses terhadap sumber daya, talenta, dan modal adalah tantangan umum yang dihadapi startup ketika memasuki arena AI.
Saat ini, pengembang AI menghabiskan terlalu banyak waktunya (hingga 75%) dengan “peralatan” yang mereka perlukan untuk membangun aplikasi. Kecuali mereka memiliki teknologi yang menghabiskan lebih sedikit waktu untuk melakukan perkakas, perusahaan-perusahaan ini tidak akan dapat meningkatkan skala aplikasi AI mereka. Tantangan teknis lainnya adalah hampir setiap startup AI bergantung pada komputasi GPU NVIDIA untuk melatih dan menjalankan model AI mereka, terutama dalam skala besar.
Mengembangkan hubungan baik dengan pemasok perangkat keras atau penyedia cloud seperti Paperspace dapat membantu startup, namun biaya pembelian atau sewa mesin ini dengan cepat menjadi pengeluaran terbesar yang harus dihadapi oleh perusahaan kecil mana pun.
Selain itu, saat ini terdapat persaingan untuk merekrut dan mempertahankan talenta AI. Baru-baru ini kita telah melihat bagaimana perusahaan seperti OpenAI mencoba merekrut talenta dari perusahaan besar lainnya seperti Google, yang membuat proses untuk menarik talenta di perusahaan kecil menjadi jauh lebih sulit.
ZDNET: Apa saja hambatan spesifik yang menghalangi usaha kecil mengakses teknologi AI canggih?
DE: Saat ini, penawaran GPU, yang sangat penting untuk pengembangan aplikasi AI/ML, secara luas hanya terjangkau oleh perusahaan besar. Meskipun semua orang telah mencoba untuk mengadopsi penawaran AI atau menjadikan penawaran AI mereka saat ini lebih kompetitif, permintaan akan GPU NVIDIA 100 telah meningkat.
GPU pusat data ini telah meningkat secara signifikan dengan setiap rilis mikroarsitektur GPU baru setiap semi-tahunan. GPU baru ini adalah akselerator yang secara signifikan mengurangi periode pelatihan dan waktu respons inferensi model. Pada gilirannya, mereka dapat menjalankan pelatihan model AI berskala besar untuk perusahaan mana pun yang membutuhkannya.
Namun, biaya penawaran GPU ini mungkin di luar jangkauan banyak orang, sehingga menjadi penghalang bagi pemain kecil yang ingin memanfaatkan AI.
Kini setelah gelombang awal revolusi Pembelajaran Mendalam dimulai, kita mulai melihat peningkatan kapitalisasi dan retensi teknologi oleh usaha-usaha yang sukses. Yang paling menonjol adalah OpenAI, yang telah mencapai pangsa pasar yang besar melalui konversi model GPT 3.5 menjadi API ChatGPT dan aplikasi web yang sangat sukses.
Karena semakin banyak perusahaan yang berusaha meniru kesuksesan perusahaan seperti OpenAI, kita mungkin melihat semakin banyak teknologi canggih dalam Pembelajaran Mendalam yang tidak dirilis ke komunitas sumber terbuka. Hal ini dapat berdampak pada startup jika kesenjangan antara kemanjuran model komersial dan penelitian menjadi tidak dapat diatasi.
Ketika teknologi menjadi lebih baik, hanya mungkin untuk mencapai hasil canggih dari model tertentu seperti LLM dengan alokasi sumber daya yang sangat besar.
ZDNET: Bagaimana DigitalOcean bertujuan untuk menyamakan kedudukan bagi startup dan usaha kecil dalam pengembangan AI?
DE: Menciptakan lapangan bermain yang setara dalam pengembangan AI adalah sesuatu yang, sejak awal kami akui, akan sangat penting bagi pertumbuhan industri secara keseluruhan. Meskipun para peneliti terkemuka di bidang apa pun bisa membenarkan pengeluaran yang besar, startup baru yang ingin memanfaatkan teknologi baru jarang mendapatkan kemewahan ini.
Di AI, efek ini terasa lebih nyata. Melatih model Pembelajaran Mendalam hampir selalu sangat mahal. Hal ini merupakan hasil dari gabungan fungsi biaya sumber daya untuk perangkat keras itu sendiri, pengumpulan data, dan karyawan.
Untuk mengatasi masalah yang dihadapi para pemain terbaru di industri ini, kami bertujuan untuk mencapai beberapa tujuan bagi pengguna kami: Menciptakan lingkungan yang mudah digunakan, memperkenalkan kemampuan replikasi yang melekat di seluruh produk kami, dan menyediakan akses dengan biaya serendah mungkin.
Dengan membuat antarmuka yang sederhana, startup tidak perlu menghabiskan waktu atau uang untuk melatih diri mereka sendiri di platform kami. Mereka hanya perlu memasukkan kodenya dan berangkat! Hal ini mendukung replikasi pekerjaan di DigitalOcean: mudah untuk berbagi dan bereksperimen dengan kode di seluruh produk kami. Bersama-sama, hal ini digabungkan untuk membantu mencapai tujuan akhir yaitu mengurangi biaya.
Pada akhirnya, memberikan pengalaman paling terjangkau dengan semua fungsi yang dibutuhkan adalah cara terbaik untuk memenuhi kebutuhan startup.
ZDNET: Seberapa penting pengembangan AI untuk melibatkan pemain kecil, dan apa konsekuensi potensial jika tidak?
DE: Kenyataannya adalah pengembangan AI membutuhkan sumber daya yang sangat besar. Tingkat peningkatan ukuran dan kompleksitas kumpulan data dan model Pembelajaran Mendalam yang stabil dan hampir eksponensial berarti bahwa pemain kecil mungkin tidak dapat memperoleh modal yang diperlukan untuk bersaing dengan pemain besar seperti perusahaan FAANG [Facebook/Meta, Apple, Amazon, Netflix , Google/Alfabet].
Selain itu, sebagian besar GPU NVIDIA dijual ke hyperscaler seperti AWS atau Google Cloud Platform. Hal ini mempersulit perusahaan kecil untuk mendapatkan akses ke mesin ini dengan harga terjangkau karena realitas rantai pasokan GPU.
Secara efektif, praktik-praktik ini mengurangi jumlah beragam proyek penelitian yang berpotensi mendapatkan pendanaan, dan para startup mungkin akan terhambat dalam melakukan pekerjaan mereka karena rendahnya ketersediaan mesin. Dalam jangka panjang, hal ini dapat menyebabkan stagnasi atau bahkan menimbulkan bias berbahaya dalam pengembangan AI di masa depan.
Di DigitalOcean, kami percaya bahwa gelombang pasang akan mengangkat semua kapal, dan dengan mendukung pengembang independen, startup, dan startup kecil, kami mendukung industri secara keseluruhan. Dengan menyediakan akses terjangkau dengan overhead minimal, Mesin GPU kami menawarkan peluang demokratisasi yang lebih besar dalam pengembangan AI di cloud.
Melalui hal ini, kami bertujuan untuk memberikan kesempatan kepada perusahaan-perusahaan kecil untuk menggunakan mesin canggih yang mereka perlukan untuk terus mendorong kemajuan revolusi AI.
ZDNET: Apa kesalahpahaman utama tentang pengembangan AI untuk startup dan usaha kecil?
DE: Prioritasnya harus selalu dibagi rata pada optimalisasi infrastruktur dan pengembangan perangkat lunak. Pada akhirnya, teknologi Pembelajaran Mendalam sepenuhnya bergantung pada kekuatan mesin tempat teknologi tersebut dilatih atau digunakan untuk inferensi.
Bertemu dengan orang-orang yang memiliki ide-ide fantastis merupakan hal yang lumrah, namun ada kesalahpahaman tentang seberapa banyak pekerjaan yang perlu dilakukan untuk salah satu bidang tersebut. Startup dapat mengimbangi hal ini dengan praktik perekrutan yang luas untuk memastikan bahwa Anda tidak terhambat oleh kurangnya pengembangan ke arah tertentu.
ZDNET: Bagaimana perusahaan kecil dapat mengatasi kesenjangan pengetahuan dalam teknologi dan pengembangan AI?
DE: Mempekerjakan pengusaha dan peminat muda yang menjadikan teknologi sumber terbuka populer adalah cara yang bagus untuk tetap mendapatkan pengetahuan yang Anda perlukan untuk sukses. Tentu saja, mempekerjakan pengembang senior tingkat PhD dan insinyur pembelajaran mesin akan selalu memberikan dorongan terbesar, namun wirausahawan muda yang mempopulerkan teknologi ini adalah operator yang suka berkelahi dan berada di ujung tanduk.
Di bidang teknologi populer seperti Difusi Stabil dan Llama LLM, kita dapat melihatnya secara real time saat ini. Ada banyak sekali proyek sumber terbuka seperti ComfyUI atau LangChain yang sedang menggemparkan dunia. Melalui penggunaan insinyur tingkat senior, berpengalaman, dan pengembang baru dari proyek-proyek open source yang berjiwa wirausaha, saya pikir startup dapat menjamin masa depan mereka.
ZDNET: Saran apa yang akan Anda berikan kepada wirausahawan yang ingin mengintegrasikan AI ke dalam model bisnis mereka?
DE: Pertimbangkan opsi sumber terbuka terlebih dahulu. Ada begitu banyak bisnis baru di luar sana yang pada dasarnya mengemas ulang sumber daya sumber terbuka populer yang sudah ada, khususnya LLM. Artinya, penerapannya relatif mudah hanya dengan sedikit latihan. Pengusaha mana pun setidaknya harus mempelajari persyaratan dasar Python yang diperlukan untuk menjalankan LLM dasar.
ZDNET: Kemajuan AI apa yang Anda ramalkan di masa depan yang khususnya akan menguntungkan startup dan bisnis digital yang sedang berkembang?
DE: Biaya LLM (khususnya untuk inferensi) menurun dengan cepat. Selain itu, peralatan dan ekosistem pengembangan model sumber terbuka berkembang pesat. Jika digabungkan, hal ini membuat AI dapat diakses oleh startup dari semua skala, berapa pun anggarannya.
ZDNET: Adakah pemikiran atau rekomendasi akhir untuk startup yang ingin memulai perjalanan AI mereka?
DE: Kemunculan LLM seperti GPT menandakan lompatan besar dalam kemampuan AI. Model-model ini tidak hanya menyempurnakan aplikasi yang sudah ada; mereka membuka pintu terhadap kemungkinan-kemungkinan baru, membentuk kembali lanskap pengembangan AI dan potensinya.
Para ilmuwan telah membangun sesuatu yang kini dapat dijalankan oleh para insinyur. AI mengalami momen "API" dan kali ini seluruh proses pengembangan telah ditingkatkan.
Masih ada pertanyaan besar yang terbuka [seperti], "Bagaimana cara menangani API non-deterministik? Jenis bahasa pemrograman apa yang harus kita gunakan untuk membahas kecerdasan baru ini? Apakah kita menggunakan pengembangan berbasis perilaku, pengembangan berbasis pengujian, atau Pembangunan berbasis AI?” Dan banyak lagi.
Namun, peluangnya sangat besar dan gelombang baru startup yang menentukan kategori akan tercipta.
Bagaimana menurutmu?
Bagaimana menurutmu? Apakah diskusi Dillon memberi Anda ide tentang cara melanjutkan proyek AI Anda? Beri tahu kami di komentar di bawah.