Kehidupan setelah Alexa:Membangun Kembali Kepercayaan Publik pada IoT
Pengumpulan data massal telah menjadi norma selama bertahun-tahun, tetapi arus mulai berbalik, dengan pengguna mengadopsi alat dan layanan yang berpusat pada privasi dalam jumlah rekor
Hanya beberapa tahun yang lalu, asisten rumah pintar adalah teknologi terbaru yang "harus dimiliki". Meskipun memiliki fungsi yang terbatas, kebaruan mereka, ditambah dengan titik harga yang relatif rendah (dan pengurangan harga yang strategis selama liburan) membuat mereka hampir tak tertahankan bagi konsumen. Tiba-tiba, perusahaan teknologi memiliki akses ke lebih banyak informasi pribadi daripada yang mereka tahu apa yang harus dilakukan. Faktanya, pada tahun lalu, ada speaker pintar di lebih dari setengah miliar rumah di seluruh dunia.
Lihat juga: Privasi Masalah Utama Menghentikan Proyek Kota Pintar Utama
Namun, baru-baru ini, perangkat ini mulai tidak disukai publik. Hampir setiap minggu, ada skandal privasi data baru, dan akibatnya, orang-orang mulai lebih peduli tentang siapa yang memiliki akses ke informasi pribadi mereka. Bagi banyak orang, gagasan memiliki asisten yang selalu aktif dan selalu mendengarkan tidak begitu menarik lagi.
Perusahaan teknologi telah kehilangan kepercayaan publik, tetapi asisten cerdas masih memiliki banyak potensi, terutama mengingat betapa bergunanya mereka dengan kemajuan pembelajaran mesin di masa depan. Ke depan, tanggung jawab ada pada produsen speaker pintar untuk membuktikan bahwa produk mereka layak mendapatkan kesempatan kedua, dan cara terbaik untuk melakukannya adalah dengan pemeriksaan yang terlalu lama terhadap pendekatan mereka terhadap privasi pengguna.
Informasi seperti apa yang disimpan oleh asisten pintar?
Data pasti yang dikumpulkan bervariasi berdasarkan pabrikan perangkat dan kemampuan merekam (unit dengan kamera internal, misalnya, dapat merekam klip video atau melaporkan tingkat cahaya sekitar pada waktu yang berbeda dalam sehari). Namun, masalah utama, setidaknya untuk saat ini, adalah audio. Secara khusus, berapa banyak yang direkam, mengapa direkam, dan apa yang dilakukan dengan rekaman setelah mencapai server perusahaan.
Asisten yang diaktifkan dengan suara secara teknis selalu mendengarkan, tetapi mereka tidak akan memproses permintaan sampai mereka mendengar kata pemicu tertentu. Pemicu ini secara khusus dipilih untuk menjadi rangkaian suku kata yang tidak biasa (misalnya, "OK, Google," atau "Alexa") sehingga pembicara dapat lebih mudah mengidentifikasinya dari percakapan sehari-hari.
Masalahnya adalah bahwa algoritma tidak sempurna. Akibatnya, asisten pintar dapat salah mendengar kata pemicu dan mulai merekam audio tanpa sepengetahuan pemiliknya. Jika algoritme tidak yakin apakah kata pemicu telah diucapkan, algoritme akan mengirimkan klip audio ke staf verifikasi perusahaan, yang membuat keputusan akhir. Secara teori, pengawasan semacam ini membantu mengurangi jumlah positif palsu tetapi dalam praktiknya, itu berarti bahwa, kapan saja, orang dapat mendengarkan apa yang terjadi di rumah Anda beberapa saat sebelumnya.
Perjalanan data Anda tidak berakhir di situ. Rekaman kemudian ditranskripsi (dan mungkin dijelaskan oleh staf) sebelum kedua versi disimpan di server perusahaan (di mana mereka tetap tanpa batas waktu, bahkan jika Anda menghapus percakapan yang disimpan secara lokal di perangkat Anda). Jika Anda mengajukan permintaan, tindakan yang dilakukan asisten Anda sebagai tanggapan juga dapat direkam.
Apakah lebih aman mengelola perangkat IoT satu per satu daripada menggunakan asisten pintar?
Secara hipotesis, mengontrol bola lampu pintar, soket, dan termostat menggunakan aplikasi masing-masing akan mencegah asisten pintar Anda mengumpulkan data tentang perangkat Anda yang lain. Karena itu, ada kemungkinan besar bahwa perangkat ini juga mengumpulkan beberapa bentuk informasi, dan merek yang kurang dikenal tidak mungkin membuat informasi privasi terperinci tersedia untuk umum, sehingga sulit untuk mengetahui dengan pasti opsi mana yang lebih aman.
Mari kita asumsikan bahwa produsen bola lampu pintar Anda dapat melihat informasi dasar tentang kebiasaan penggunaan Anda secara real-time:apa warna lampunya, intensitas warnanya saat ini, dan apakah lampu menyala atau tidak. Menurut peneliti dari University of Texas di San Antonio, ini cukup untuk mengidentifikasi lagu apa yang Anda dengarkan (dengan asumsi Anda memiliki jenis bola lampu yang berubah warna sebagai respons terhadap musik). Eksperimen ini cukup terbatas cakupannya, tetapi jika sebuah perusahaan bernilai miliaran dolar dengan jutaan jam data suara memutuskan untuk mereplikasinya, sangat mungkin bahwa eksperimen itu dapat mendengarkan percakapan Anda bahkan tanpa perlu menggunakan mikrofon.
Bahkan perangkat yang relatif sederhana seperti soket pintar mengumpulkan informasi. Salah satu model yang paling dikenal luas mencatat data selama 45 hari, termasuk tingkat penggunaan harian Anda, kekuatan koneksi Wi-Fi, berapa biaya listrik Anda per kWh, dan berapa lama perangkat dalam keadaan siaga. Ini adalah informasi yang cukup untuk membuat tebakan yang masuk akal apakah Anda bekerja atau tidak, berapa banyak orang yang bersama Anda, dan (jika Anda memiliki banyak soket pintar), tata letak kasar rumah Anda. Model khusus ini juga menyertakan port micro-USB yang disarankan pabrikan dapat digunakan untuk sensor tambahan di masa mendatang.
Raksasa teknologi harus mempertimbangkan kembali pendekatan mereka terhadap privasi
Jika publik ingin terus merangkul asisten pintar, mereka harus merasa bahwa privasi mereka dihormati. Organisasi mulai mengambil langkah kecil ke arah ini, misalnya, dengan menambahkan penutup kamera ke perangkat mereka, namun gerakan token seperti ini tidak tepat:orang tidak khawatir tentang apa yang mungkin dilihat perangkat mereka, mereka khawatir bahwa menonton sama sekali.
Teknologi itu sendiri bukanlah masalahnya:lagi pula, asisten yang diaktifkan dengan suara bisa sangat berguna, terutama bagi orang-orang dengan mobilitas atau penglihatan terbatas. Alih-alih, masalahnya adalah bahwa perusahaan yang membuat perangkat ini memiliki pola pikir "kumpulkan semuanya" yang sama sekali tidak kompatibel dengan privasi pengguna. Dengan mengadopsi pendekatan tiga langkah privasi-pertama yang diuraikan di bawah, raksasa teknologi dapat meredakan kekhawatiran pengguna dengan cara yang berarti. Hal ini, pada gilirannya, memastikan bahwa pelanggan yang ada akan terus menggunakan layanan dan bahkan mungkin mendorong beberapa untuk meningkatkan ketika model yang lebih baru dirilis .
1. Buang kerahasiaannya
Orang-orang begitu terbiasa dengan kebijakan privasi yang bermasalah sehingga mereka menerimanya secara otomatis. Lagi pula, alternatifnya adalah tidak menggunakan perangkat yang sudah Anda bayar. Ke depan, asisten cerdas hanya boleh mengumpulkan data yang benar-benar diperlukan untuk tugas tertentu, dan informasi ini harus dihapus (baik secara lokal maupun dari catatan pabrikan) setelah tujuan tersebut tercapai. Pengguna juga harus dapat menyisih dari fitur tertentu jika mereka tidak setuju untuk memberikan izin yang diperlukan, seperti yang dapat Anda lakukan dengan aplikasi di ponsel.
Bagaimana ini akan berhasil dalam praktik? Katakanlah Anda ingin mendapatkan petunjuk arah ke restoran tertentu. Asisten Anda perlu mengetahui lokasi Anda saat ini dan tujuan Anda. Mungkin juga menanyakan waktu perjalanan yang Anda inginkan untuk menemukan informasi transportasi umum dan segera, tetapi ini bukan data penting, dan hanya boleh dipertimbangkan jika pengguna memberikannya secara sukarela. Setelah pengguna tiba, data tujuan mereka tidak lagi diperlukan, dan dapat dibuang dengan aman (sekali lagi, kecuali jika pengguna secara khusus menambahkan lokasi ke buku alamat).
Pada contoh di atas, pengguna berhasil sampai ke tujuan tanpa masalah, meskipun memberikan informasi yang minim. Sebaliknya, jika Anda mencoba ini dengan perangkat masa kini, asisten cerdas Anda tidak hanya dapat mengetahui ke mana Anda pergi, tetapi juga jenis tempat usaha itu, seberapa sering Anda berkunjung, dan seberapa populernya tempat itu di kalangan orang lain di daerah Anda. . Fungsionalitas ini tidak digunakan untuk meningkatkan pengalaman Anda; itu digunakan untuk membangun profil periklanan dan dengan demikian, dapat ditiadakan dengan dampak yang tidak terlihat pada pengguna.
2. Sediakan alat yang dibutuhkan pengguna untuk mengelola data mereka sendiri
Sederhananya, pengguna tidak boleh dihukum karena sadar akan privasi. Jika orang benar-benar setuju untuk memberikan informasi pribadi mereka, pertama-tama mereka harus memahami apa artinya ini. Perusahaan seharusnya tidak lagi mengaburkan kebijakan pengumpulan data mereka dalam lusinan halaman terminologi hukum; pelanggan harus dapat melihat dengan tepat jenis informasi apa yang dicatat. Lebih penting lagi, informasi ini harus dalam format yang mudah dimengerti, bebas dari setengah kebenaran tentang metadata atau kumpulan data anonim. Pengguna juga harus diberi tahu mengapa setiap bagian data dicatat, dan bagaimana mereka dapat menghapusnya, jika mereka mau.
Saat ini, diperlukan waktu berminggu-minggu untuk mengetahui data apa yang dimiliki perusahaan tertentu tentang Anda. Situs web tertentu membuat proses ini lebih mudah daripada yang lain, tetapi Anda masih bisa menunggu setidaknya beberapa jam setelah menemukan opsi yang sesuai di labirin submenu.
Mengapa melihat informasi pribadi Anda tidak sesederhana mungkin? Pengguna harus dapat memutuskan sendiri apakah perusahaan berhak mengakses data mereka atau tidak. Di masa mendatang, akan jauh lebih mudah untuk melihat data Anda, tetapi tidak perlu berhenti di situ.
Misalnya, saat ini, sebagian besar asisten pintar tidak mengizinkan pengguna untuk menghapus rekaman suara secara otomatis atau melihat statistik terperinci seperti seberapa sering klip audio mereka dirujuk ke verifikasi manual. Ini bukan fitur yang sangat canggih, tetapi mereka akan sangat membantu untuk mendapatkan kembali kepercayaan publik dan membangun reputasi sebagai perusahaan teknologi yang transparan dan sadar privasi.
3. Kurangi intervensi pihak ketiga seminimal mungkin
Asisten pintar paling terkenal telah beroperasi selama bertahun-tahun. Secara kolektif, mereka memiliki akses ke jangkauan yang lebih luas dari data suara daripada orang lain, dengan semua jenis bahasa dan aksen yang diwakili. Jika, setelah jutaan dolar investasi dan bertahun-tahun menyempurnakan algoritme, staf masih sering harus campur tangan secara manual hanya untuk melihat apakah kata pemicu digunakan, perusahaan mungkin harus menerima bahwa metode saat ini tidak berfungsi.
Ada banyak cara lain untuk mengurangi jumlah positif palsu tanpa membuat pengguna khawatir tentang siapa yang mendengarkan. Misalnya, dengan membatasi jam kerja asisten Anda, Anda mengurangi kemungkinan kebisingan latar belakang salah diidentifikasi sebagai kata pemicu. speaker sudah memungkinkan pengguna untuk membuat rutinitas yang disesuaikan seperti memutar musik pada waktu tertentu setiap hari; teknologi ini hampir pasti dapat diperpanjang untuk menjadwalkan "waktu tenang" (seperti dini hari), di mana asisten tidak akan menanggapi perintah verbal.
Beberapa layanan baru-baru ini mengadopsi pengenalan suara individual, di mana asisten hanya akan merespons orang tertentu. Namun, ini melatih asisten hanya menggunakan beberapa frasa (kemungkinan untuk memaksimalkan kenyamanan bagi pengguna). Hal ini dapat menyebabkan situasi di mana ia menerima perintah dari orang-orang yang hanya memiliki aksen atau nada yang sama sebagai pengguna yang berwenang. Sebaliknya, jumlah frasa pelatihan yang lebih banyak akan membantu asisten mengetahui apa yang benar-benar membuat suara seseorang unik, sehingga mengurangi rentang masukan yang diterima dan, pada gilirannya, jumlah kesalahan positif.
Akhirnya, asisten di rumah tangga dengan jumlah positif palsu yang sangat tinggi dapat menawarkan fitur yang merekam kebisingan latar belakang pada beberapa waktu berbeda dalam sehari. Ini kemudian dapat digunakan untuk mengadaptasi model pengenalan suara untuk rumah tertentu sehingga kecil kemungkinannya dipicu oleh faktor lingkungan seperti lalu lintas di luar, pesawat di atas kepala, atau frekuensi yang tidak terdengar.
Praktik pengumpulan data saat ini tidak dapat bertahan lama
Satu-satunya masalah nyata yang dimiliki orang dengan asisten rumah pintar adalah mereka merasa sedang diawasi. Masalahnya adalah mereka benar. Pengumpulan data massal telah menjadi norma selama bertahun-tahun, tetapi arus mulai berubah, dengan pengguna mengadopsi alat dan layanan yang berpusat pada privasi dalam jumlah yang tercatat. Asisten cerdas memiliki potensi besar, tetapi pada akhirnya, jika pembuatnya gagal beradaptasi dengan sikap baru yang mengutamakan pengguna ini, mereka berisiko tertinggal.
