Menggunakan AI dan ML untuk Mengekstrak Wawasan yang Dapat Ditindaklanjuti di Aplikasi Edge
Jika data dimulai dari Edge, mengapa kami tidak dapat melakukan sebanyak mungkin dari sudut pandang AI?
Pertumbuhan eksplosif dalam perangkat dan aplikasi Edge membutuhkan pemikiran baru tentang di mana dan bagaimana data dianalisis, dan wawasan diperoleh. Opsi komputasi Edge baru, ditambah dengan persyaratan speed-to-insight yang lebih menuntut dalam banyak kasus penggunaan, mendorong penggunaan kecerdasan buatan (AI) dan pembelajaran mesin (ML) dalam aplikasi Edge.
Di mana AI dan ML diterapkan (di Edge atau di pusat data atau fasilitas cloud) adalah masalah yang kompleks. Untuk mendapatkan beberapa wawasan tentang strategi dan praktik terbaik saat ini, kami baru-baru ini duduk bersama Said Tabet, Kepala Arsitek, AI/ML &Edge; dan Calvin Smith, CTO, Emerging Technology Solutions; keduanya di Kantor CTO Global di Dell Technologies.
Kami membahas meningkatnya kebutuhan AI dan ML untuk memahami jumlah besar data Edge yang dihasilkan saat ini, persyaratan komputasi untuk AI/ML dalam aplikasi Edge, dan apakah komputasi tersebut harus dilakukan di Edge atau di pusat data atau fasilitas cloud.
Tren yang Muncul
RTInsights: Apa tren yang muncul saat ini, dan bagaimana AI dan ML cocok dengan diskusi Edge?
Tab: Saat ini, ketika orang berbicara tentang tren yang muncul, mereka sering menyebut banyak hal seperti Edge, IoT, AI/ML, augmented reality, virtual reality, blockchain, dan 5G. Kami memposisikan Edge sebagai hal berikutnya dalam hal ke mana kami akan pergi dengan teknologi ini—bukan hanya tren, tetapi juga adopsi yang sebenarnya. Saya pikir dari perspektif data dan pengalaman pengguna, ada kebutuhan untuk wawasan dan, terima kasih atas ketidaksabaran kita sebagai manusia, ditambah dengan masalah latensi dunia nyata, untuk mendapatkan wawasan itu secepat mungkin. Juga, gagasan bahwa jika data dimulai di Edge, mengapa kita tidak dapat melakukan sebanyak mungkin di sana dari sudut pandang AI?
Jelas, AI, dan khususnya ML, rakus dalam hal jumlah data yang dibutuhkannya. Perlu belajar dengan cepat. Apa yang sebenarnya bisa kita lakukan di Edge? Saya pikir dari situlah diskusi ini dimulai. Blockchain atau buku besar terdistribusi adalah area pertimbangan lain di sini. Biasanya, Anda akan melihat kebutuhan akan kepercayaan yang besar, terutama dari sudut pandang data. Ada juga kebutuhan untuk mempercayai wawasan yang kami hasilkan, bagaimana kami bereaksi, dan item yang dapat ditindaklanjuti yang berasal dari temuan ini. Itu membawa beberapa kebutuhan tambahan dari perspektif keamanan, privasi, dan tata kelola secara keseluruhan. Anda perlu mempertimbangkan semua ini dalam pengalaman tersebut, baik Anda seorang pebisnis, atau individu, atau armada kendaraan.
Smith: Jika kita mengambil perkiraan umum tentang keberadaan, katakanlah antara 20 dan 30 miliar perangkat IoT yang terhubung hari ini. Kembali, Said, Saya pikir itu kembali pada tahun 2014 atau sehingga jumlah perangkat seluler yang terhubung melebihi jumlah orang di dunia, bukan? Kemudian pada tahun 2017, perangkat IoT juga melampaui populasi manusia global.
Tab: Ya. Itu benar.
Smith: Ini adalah lompatan besar, dan akan terus melompat. Apakah Anda akan mempekerjakan 27 miliar orang untuk keluar dan memelihara perangkat Edge ini? Kemudian, melalui tumpukan infrastruktur, jelas, ini bukan pemetaan 1:1, tetapi secara fisik tidak mungkin mempekerjakan administrator basis data, ilmuwan data, arsitek, dan insinyur yang cukup. Sebaliknya, ini semua tentang otomatisasi mengemudi dan pengoptimalan di Edge. Hanya volume data, dan, sepertiDr. Tabet menyebutkan, keserakahan aplikasi dan fungsi, khususnya di AI. Anda harus dapat memproses banyak informasi karena berbagai alasan, salah satunya adalah biaya. Anda ingin menganalisis data apa yang sebenarnya berharga di Edge sebelum Anda mulai mengirimkannya ke pusat data atau cloud.
Peran AI/ML dengan Edge
RTInsights: Mengapa kita membutuhkan AI/ML saat berbicara tentang Edge?
Tab: Ada beberapa alasan. Pertama, ada alasannya. Dari sudut pandang otomatisasi, AI dan ML adalah cara untuk mengotomatisasi lebih banyak dan sedikit lebih disiplin tentangnya, dan Anda melakukannya di Edge. Anda melihat itu hari ini. Perlu ditegakkan dengan pandangan membangun kontinum awan ini ke Edge, termasuk bidang data, atau bidang kontrol, dan kit pengembangan, dan sebagainya, yang menurut para pengembang jika saya menulis untuk Edge, itu sama dengan awan.
Dari perspektif AI, otomatisasi adalah hal yang besar. Di Edge, Anda tidak akan melakukan pemrosesan yang benar-benar dalam di sana (yaitu, Deep Learning – DL), setidaknya tidak biasanya. Aspek lain yang menurut saya sangat penting adalah fakta bahwa wawasan yang akan Anda dapatkan dengan sangat cepat di Edge sering kali akan berbeda dari yang akan Anda bawa ke pusat data atau ke cloud Anda, menghubungkannya dengan yang lain. jenis informasi. Pada saat itu, Anda kehilangan banyak momentum intelijen, dalam hal wawasan yang Anda peroleh, atau pengambilan keputusan yang akan Anda lakukan jika Anda melakukannya di Edge. Namun, Edge memang membutuhkan AI. Mereka berjalan beriringan.
Smith: Saya pikir alasan lainnya adalah bisnis. Semua "benda, sensor, aktuator, perangkat" ini, bisa sebesar rumah yang terhubung, atau kapal pesiar yang terhubung, atau mobil yang terhubung. Atau mereka bisa berada di dalam atau di pabrik, traktor, atau pompa. Singkat cerita, semua industri sekarang sudah menjadi komoditas, bukan? Ada pilihan untuk membangun dan membeli barang-barang di seluruh dunia. Cara-cara yang coba dilakukan perusahaan untuk membedakan adalah melalui layanan yang terkait dengan produk dan aset yang mereka jual. Semakin banyak nilai canderive Anda, banyak perusahaan beralih dari produk ke layanan. Ini memanggil transformasi produk-ke-layanan.
Mereka mencoba menjual aset mereka sebagai layanan. Kadang-kadang bahkan beralih dalam model bisnis dan beralih dari CapEx ke OpEx. Kadang-kadang mereka masih hanya akan menjual sebagai CapEx, tetapi mereka mungkin dapat menjual satu set layanan tambahan atau hanya menggunakannya sebagai pembeda ketika produk mereka cerdas dan terhubung. Sekali lagi, seperti yang disebutkan Said, mengoptimalkan dan mengotomatisasi dan mampu menarik data yang tepat pada waktu yang tepat, dan tempat yang tepat memungkinkan perusahaan untuk bersaing. Hanya dengan membuat suatu barang tidak selalu mendapatkan nilai lagi.
Tab: Satu hal lagi yang ingin saya tambahkan adalah bahwa di Edge, jika kita melihat puluhan atau ratusan ribu perangkat dari satu perusahaan atau organisasi, apakah itu di kendaraan otonom, Anda melihat mobil sebagai contoh, masing-masing dari mobil-mobil itu mungkin berperilaku berbeda di bawah lingkungan yang berbeda. Belajar dari itu sangat penting ketika Anda menyatukannya. Sama halnya dalam otomasi industri. Anda dapat melihat turbin angin, mesin di pesawat, atau perawatan kesehatan. Di banyak lingkungan yang berbeda ini, Anda memiliki kinerja yang jauh lebih tepat, jauh lebih efisien, lebih baik dari modul AI ini, atau algoritme AI saat Anda membawa informasi itu kembali ke pusat data atau cloud. Dengan kata lain, meskipun ada nilai pasti dalam data dari satu aset, Anda mulai mengumpulkan wawasan yang sebenarnya dari armada aset yang terhubung dan interaksinya di lingkungan yang berbeda.
Memutuskan Dimana Edge AI/ML Harus Dilakukan
RTInsights: Di mana pekerjaan komputasi AI/ML dilakukan untuk aplikasi Edge?
Tab: Ini kembali ke poin sebelumnya di mana dalam banyak kasus ini, algoritma AI melakukan banyak data untuk dilatih. Anda melakukannya (dan ada ketidaksepakatan) di pusat data atau di cloud, di lingkungan terpusat di mana Anda dapat memiliki kemampuan komputasi bertenaga tinggi ini. Di Edge, Anda akan menerapkan algoritme ini, dan algoritma ini bisa jauh lebih efisien digunakan untuk memengaruhi tujuan di Edge. Jelas ada pembicaraan, di mana pada titik tertentu, kami akan dapat melakukan pelatihan tingkat tertentu di Edge, juga. Ini akan dibatasi pada awalnya karena kendala berat dari sebagian besar lingkungan Edge.
Pertimbangan untuk Edge Computing
RTInsights: Apa saja persyaratan untuk solusi komputasi di Edge?
Tab: Nah, ini sangat rumit, karena ada definisi yang berbeda tentang apa itu Edgeis. Anda berbicara dengan produsen mobil, dan mereka mengatakan mobil saya adalah Edge. Ketika Anda berbicara dengan produsen turbin, turbin angin adalah Edge mereka. Perangkat manufaktur di pabrik juga Edge. Mereka akan memiliki lingkungan yang berbeda. Beberapa dari mereka akan sangat keras. Di Dell, kami memiliki banyak pengalaman dengan komputasi di lingkungan yang mungkin mencakup kondisi keras dengan getaran kuat dan suhu yang sangat tinggi atau sangat rendah. Satu hal yang ingin saya katakan adalah persyaratan nomor satu [untuk solusi komputasi di Edge] adalah konsumsi daya. Ini harus menjadi daya rendah. Ini bertentangan dengan apa pun yang kita ketahui, terutama di HPC, bukan? Anda menggunakan banyak GPU, panas, dan membutuhkan daya. Itu tidak mungkin di lingkungan [Edge] ini. Kita harus membawa [komponen komputasi] itu ke faktor bentuk lain, atau mungkin kita bahkan berpikir dalam hal berbagai jenis akselerator, seperti generasi baru AI khusus jenis akselerator yang akan hadir dalam beberapa tahun mendatang.
Smith: Hal yang keren dan menarik adalah kami terus dapat bekerja di jalan yang sulit untuk lingkungan yang keras dan dapat bekerja di, katakanlah, negatif lima, terkadang 10 derajat Celcius dan kemudian hingga 55-plus derajat Celcius. Seperti yang disebutkan Dr.Tabet, untuk lingkungan yang berbahaya atau keras, Anda harus mampu mencegah masalah yang terkait dengan getaran, guncangan, dan semua jenis musik jazz. Namun, kami terus dapat membuat faktor bentuk semakin kecil. , kami melakukannya dengan bantuan mitra dan pengembang chip kami.
Yang menarik adalah gagasan untuk membuat faktor bentuk lebih kecil dan lebih kokoh, dan kemudian pada saat yang sama, membuatnya sesederhana mungkin untuk dioperasikan dan digunakan. Dari sudut pandang aplikasi, ini bukan tentang cloud yang dieksekusi di Edge, meskipun itu bisa terjadi juga. Ini lebih tentang prinsip cloud-native yang dibawa ke Edge. Kesederhanaan dan kemudahan yang dapat Anda gunakan untuk port, apakah itu container atau VM [mesin virtual], ke berbagai jenis infrastruktur, dan berbagai jenis lingkungan, dan memiliki tampilan panel kaca tunggal. Itu kemudian juga berpotensi dapat mengaktifkan lingkungan multi-cloud. Edge dapat menjadi titik kontrol baru Anda, visibilitas kaca baru Anda ke dalam apa yang terjadi yang menjembatani kesenjangan antara PL, atau sisi teknologi operasional, dan sisi TI. Ini menarik. Ini adalah batas baru untuk eksplorasi, dan ini mendorong banyak peta jalan produk untuk masa depan, menurut saya.
Kasus Penggunaan Edge AI/ML
RTInsights: Bisakah Anda memberikan beberapa contoh aplikasi AI/ML Edge?
Tab: Salah satu yang telah saya kerjakan selama beberapa tahun sekarang adalah seputar tantangan yang terkait dengan aplikasi mobilitas [seperti kendaraan otonom]. Bekerja dengan beberapa organisasi dan dengan pelanggan kami secara langsung, kami melihat bagaimana kami dapat membawa kemampuan yang berbeda ke pasar ini. Saya akan mengabstraksikannya sedikit dan memberi Anda contoh juga yang dapat memfasilitasi penerapan Edge semacam ini. Ada kasus penggunaan Edge dalam apa yang kami sebut RSU, unit pinggir jalan, kendaraan itu sendiri, atau dengan penginderaan yang mereka lakukan. Beberapa contoh ini adalah versi yang diperluas dari apa yang kami sebut peta HD, peta definisi tinggi, di mana peta kaya secara semantik, berdasarkan konteks, dan diperbarui hampir secara real-time.
Itu salah satu contoh di mana AI digunakan untuk mengurangi jumlah dan biaya data yang ditransfer. Anda hanya berurusan dengan apa yang Anda butuhkan untuk layanan khusus tersebut. Misalnya, video dapat dikurangi. Anda dapat mengurangi jumlah data. Anda dapat fokus pada objek yang sangat spesifik yang ingin Anda deteksi. Itulah contoh-contoh pada tingkat itu yang dapat membantu.
Yang lain terkait dengan kesehatan perangkat Edge tersebut, di mana Anda memantau perangkat tertentu, mesin, mobil penuh, dan lain-lain, dan Anda mencoba melakukan analisis sebanyak mungkin di tingkat kendaraan atau perangkat, terutama untuk keselamatan alasan (yaitu, pemantauan berbasis kondisi di banyak kasus penggunaan IoT).
Ada juga contoh lain di domain ritel, di mana Anda akan melihat lebih banyak penerapan Edge, tetapi dengan cara yang berbeda. Dalam arti bahwa Anda memiliki koneksi dari Edge ke cloud ke pusat data, di Edge cloud, seperti yang kami sebut, di mana Anda melakukan sebanyak yang Anda bisa di Edge. [The Edge adalah tempat] Anda mengumpulkan data dan melakukan semua analisis yang diperlukan. Anda memberikan pengalaman yang lebih baik kepada pengguna akhir, dalam kasus ritel, misalnya. Anda mencoba untuk mempersonalisasi pengalaman itu kepada mereka sehingga Anda dapat meminimalkan biaya, tetapi juga mengoptimalkan layanan.
Saat ini, terutama dalam situasi yang kita hadapi, ada banyak kasus yang terkait dengan perawatan kesehatan. Berapa banyak data yang dapat kita kumpulkan dan tanggapi secepat mungkin di Edge? Biasanya kita berbicara tentang lingkungan terdistribusi di skala ratusan ribu atau jutaan perangkat, seperti yang dikatakan Calvin. Ini adalah area di mana AI dan ML dapat memainkan peran yang jauh lebih besar. Kami berbicara tentang perubahan data sepanjang waktu, dan dengan kemampuan AI, beberapa aplikasi ini akan beradaptasi sendiri. Pembelajaran berlanjut, dan pelatihan berlanjut pada tingkat itu.
Di semua area ini—perawatan kesehatan, ritel, kendaraan otonom, mobilitas secara umum, dan banyak area lainnya—Anda menurunkan biaya melalui pemeliharaan prediktif atau bersyarat. Edge juga memberi Anda kemampuan untuk melakukan kendali jarak jauh pada perangkat, jadi jika ahli Anda tidak dapat dengan aman pergi ke tempat pengumpulan data, mereka sebenarnya dapat menyediakan kemampuan itu dari jarak jauh, dan bahkan menyertakan hal-hal seperti AR atau VR. Tetapi Anda juga melakukan sebagian besar pekerjaan sebelumnya di Edge, sehingga Anda dapat meminimalkan kehadiran mereka, jika perlu, secara langsung. Itu hanya beberapa contoh.
Smith: Saya akan menambahkan dua lebih dari yang penting. Salah satunya adalah bahwa kami memiliki bisnis besar di bidang keselamatan dan keamanan. Seperti yang dikatakan Said, Anda mungkin menjalankan algoritme yang sangat besar, dan memproses data untuk hal-hal seperti ... yah, izinkan saya memberi Anda sebuah contoh. Bayangkan Anda memiliki skenario di mana ada tembakan di tempat umum, katakanlah itu di luar pompa bensin. Anda perlu membuat banyak keputusan otomatis dan segera untuk mengetahui tindakan apa yang harus diambil. Satu hal adalah, pikirkan tentang pengenalan suara tembakan dari sudut pandang audio, tetapi hubungkan dengan pengenalan objek dari sudut pandang penglihatan komputer untuk benar-benar menunjukkan bahwa itu adalah senjata , dan bukan hanya bumerang mobil.
Kemudian, jika Anda memiliki pelaku yang melakukan ini, Anda juga dapat memiliki apa yang sekarang sebenarnya merupakan algoritma yang cukup sederhana yang dapat dijalankan di Edge, tetapi mungkin berasal dari pusat data, untuk hal-hal seperti pengenalan plat nomor. Kemudian, Anda dapat mengidentifikasi plat nomor tersangka yang melarikan diri. Semuanya otomatis dan dijalankan di Edge. Ada banyak kasus penggunaan di area tersebut yang melibatkan kamera, dan pengawasan, serta keamanan, dan keselamatan umum bagi warga.
Area kasus penggunaan besar lainnya, yang menurut saya tidak akan kita lewatkan, adalah Pembelajaran Mendalam untuk Fasilitas Cerdas, yang merupakan tempat uji coba di Konsorsium Internet Industri yang kami mulai beberapa waktu lalu dengan Toshiba. Sejak awal, kami juga telah menambahkan SAS dan Wipro, dengan perusahaan yang berbeda membawa nilai yang berbeda.
Gagasan awalnya adalah untuk membangun fasilitas besar yang dirancang sebagai yang canggih. Kalau tidak salah saya kira dibangun tahun 2011 dan sudah ada sensornya berapa, Said? Seperti 20.000 sensor atau semacamnya?
Tab: Lebih dari itu, saya akan mengatakan. Mungkin sekitar 35.000 saat dibangun pada tahun 2011.
Smith: 35.000 ya. Itu adalah fasilitas yang benar-benar baru dan canggih, tetapi para desainer ingin mendorong amplop dan belajar dan berbuat lebih banyak. Jaringan saraf diimplementasikan melalui serangkaian server yang terhubung ke server parameter, membuat bangunan pada dasarnya belajar sendiri terkait dengan sistem kritisnya. Kita berbicara tentang hal-hal seperti lift, dan eskalator, dan tentu saja, hal-hal mahal seperti sistem HVAC. Idenya adalah untuk melakukan, setidaknya pada awalnya, mendeteksi anomali dan mencari korelasi antara hal-hal yang sulit ditemukan oleh seseorang (tanpa AI).
Misalnya, ada beberapa temuan yang sangat menarik tentang hal-hal yang terjadi di dapur. Data menentukan bahwa kejadian tersebut benar-benar meningkatkan biaya, dan karena tindakan tersebut, bagian ventilasi tertentu ditutup. Sungguh luar biasa apa yang dapat Anda mulai temukan ketika itu adalah data daripada manusia yang menyelidiki sesuatu. Kita berbicara tentang jaringan saraf yang benar dan dalam di mana ia belajar sendiri – mengajar sendiri apa yang harus ditemukan, mencari korelasi silang yang biasanya tidak ditentukan oleh manusia sendiri. Ketika Anda benar-benar memikirkannya, semua ini ada di "Edge." Ini semua sedang dieksekusi di dalam gedung. Kemudian, beberapa pemrosesan inti, tentu saja, kembali ke pusat data.
Tab: Dalam kasus penggunaan yang lebih baru untuk sebuah proyek, kami menambahkan sejumlah perangkat, mirip dengan semua aset ini yang berhubungan dengan HVAC dan hal-hal lain di dalam gedung. Masing-masing dilengkapi dengan algoritme pembelajaran mesin atau algoritme AI dalam beberapa kasus, dan itu memungkinkan mereka untuk mandiri, tetapi pada saat yang sama, belajar dari satu sama lain. Kembali ke cerita Calvin, ini dilakukan sedemikian rupa sehingga kita akan melihat lebih banyak AI otonom semacam ini, jika saya bisa menggunakan istilah itu. Sungguh, gagasan bahwa kita tidak memberi makan arah, tetapi seiring waktu itu akan tingkat sendiri dan belajar sendiri dalam hal parameter dan optimalisasi produktivitas yang diperlukan.
