AI yang dialihdayakan dan pembelajaran mendalam di industri perawatan kesehatan – Apakah privasi data berisiko?
Jonathan Martin dari Anomali
Sebagai teknologi baru, kecerdasan buatan (AI) dan pembelajaran mendalam terbukti memberikan wawasan bisnis yang kuat. Hal ini terutama berlaku untuk industri perawatan kesehatan, kata Jonathan Martin, direktur operasi EMEA di Anomali , di mana Freemium AI dan paket perangkat lunak pembelajaran mesin seperti theano, torch, cntk, dan tensorflow dapat secara efektif memprediksi kondisi medis seperti kanker, serangan jantung, dan banyak diagnosis berbasis gambar lainnya.
Oleh karena itu, integrasi AI dan pembelajaran mendalam ke dalam praktik medis merupakan langkah berikutnya yang tak terhindarkan dan kritis bagi industri perawatan kesehatan, meskipun upaya semacam itu bukannya tanpa tantangan.
Salah satu masalah paling mendesak yang mencegah organisasi memanfaatkan sepenuhnya teknologi ini adalah kurangnya staf yang terlatih secara teknis. Ada banyak profesional keamanan siber yang kemungkinan dapat memenuhi permintaan akan bakat teknis, tetapi dengan pasokan profesional yang sudah terbatas di industri keamanan siber itu sendiri, kecil kemungkinan pasokan akan memenuhi permintaan dalam waktu dekat.
Untuk semakin memperumit masalah industri perawatan kesehatan, penerapan teknologi ini memerlukan akses ke Personally Identifiable Information (PII), yang merupakan beberapa data yang paling ditargetkan dalam serangan cyber karena sifatnya yang sensitif dan karenanya menguntungkan.
Masyarakat Kesehatan Nasional (NHS) terpilih untuk menghindari masalah kepegawaian dan privasi data dengan bermitra dengan Deepmind , sebuah perusahaan yang diakuisisi oleh Alphabet/Google. Ini memberi Deepmind akses ke 1,6 juta catatan medis, yang mencakup informasi tentang tes darah, diagnosa medis, catatan sejarah pasien, dan bahkan data yang lebih sensitif seperti diagnosis HIV dan penggunaan narkoba sebelumnya. Apakah ini merupakan risiko yang sesuai atau tidak telah menjadi sumber kontroversi di industri ini.
Seperti yang kita lihat dari serangan WannaCry di NHS, serangan siber dapat berdampak buruk pada industri. Namun, ini seharusnya tidak menghentikan organisasi untuk berbagi dan menganalisis informasi lebih lanjut. AI dan teknologi lainnya sangat penting untuk kemajuan perawatan kesehatan, dan mempekerjakan talenta teknis merupakan bagian integral untuk memanfaatkan sepenuhnya kekuatan yang dimiliki ini dengan cara yang aman yang menghilangkan kebutuhan untuk melakukan outsourcing. Organisasi juga harus menjaga konsistensi praktik upaya terbaik untuk meminimalkan risiko organisasi.
Salah satu praktik terbaik ini termasuk menyunting semua Informasi Identifikasi Pribadi. Setiap data outsourcing organisasi sebaiknya menggunakan nama samaran, di mana pengenal unik dan PII hanya dimiliki oleh entitas tepercaya. Informasi semi-sensitif yang akan memiliki nilai bagi model pembelajaran mesin juga harus dihapus. Lokasi geografis pasien adalah contoh sempurna.
Data ini mungkin merupakan indikator kuat dari suatu penyakit, tetapi data mentah dapat digunakan untuk merekayasa balik PII pasien tertentu. Membuang informasi tersebut merupakan pertukaran yang efektif antara memberdayakan kekuatan prediksi AI dan melindungi kerahasiaan pasien.
Strategi upaya terbaik ini dapat membantu mengurangi sebagian besar kekhawatiran, namun, ini bukan metode yang sangat mudah untuk mengasuransikan kerahasiaan. Saat ini, tidak mungkin untuk menjamin bahwa AI tidak dapat merekonstruksi PII Anda. Dalam satu studi oleh CMU, peneliti menemukan nomor jaminan sosial secara mengejutkan dapat diprediksi dan bahwa algoritme AI biasanya dapat merekonstruksi nomor jaminan sosial dari informasi seperti tanggal lahir dan jenis kelamin.
Di masa depan, organisasi dapat melihat ke arah teknologi yang lebih maju untuk mengamankan upaya outsourcing data pribadi. Perkembangan terbaru dalam pembelajaran gabungan dapat meningkatkan fleksibilitas dan memungkinkan kelompok untuk menyimpan data di tempat. Teknologi lain yang terkait dengan enkripsi homomorfik juga sedang dikembangkan. Dengan enkripsi homomorfik, komputasi terjadi pada data terenkripsi tanpa harus mendekripsi data, yang secara signifikan mengurangi masalah keamanan.
Saat ini, kita masih bertahun-tahun lagi untuk memecahkan masalah privasi data secara langsung. Namun, janji manfaat dari AI terlalu besar untuk ditunggu oleh industri perawatan kesehatan. Dalam waktu dekat, industri harus mencapai keseimbangan untuk melindungi warga dan mencegah kerentanan yang tidak perlu.
Penulis blog ini adalah Jonathan Martin, direktur Operasi EMEA di Anomali
