AI Menerjemahkan Makalah Penelitian Kompleks menjadi Ringkasan Bahasa Inggris Jelas

• Peneliti mengembangkan jaringan saraf baru berdasarkan ide yang sebelumnya belum dieksplorasi – rotasi.
• Ini dapat menggantikan metode yang ada untuk mengatasi masalah dunia nyata seperti peringkasan teks, pemodelan bahasa, dan penjawab pertanyaan.

Makalah penelitian biasanya dipenuhi dengan pendekatan khusus dan terminologi teknis, yang membuatnya cukup sulit dipahami bagi pembaca tanpa latar belakang ilmiah.

Baru-baru ini, ilmuwan di MIT dan Qatar Computing Research Institute menemukan model buatan pintar (AI) baru yang dapat membaca jurnal ilmiah dan memberikan ringkasan bahasa Inggris sederhana dalam beberapa kalimat.

Meskipun hasilnya jauh lebih baik dari teknik sebelumnya, ini tentu tidak dapat menggantikan penulis dan editor ilmu pengetahuan. Namun, AI ini dapat membantu penulis memindai sejumlah besar jurnal dan mendapatkan ide tentang apa yang mereka bicarakan.

Tim penelitian awalnya mencoba mengembangkan jaringan saraf untuk mengatasi beberapa masalah fisika, misalnya bagaimana cahaya berperilaku dalam bahan terstruktur yang rumit.

Mereka segera menyadari bahwa metodologi yang sama dapat digunakan untuk menangani tugas komputasi kompleks lainnya, seperti pengenalan ucapan dan interpretasi bahasa alami, dengan cara yang jauh lebih efisien dibandingkan metode machine learning yang ada.

Apa yang Sebenarnya Mereka Lakukan?

Dalam beberapa tahun terakhir, Jaringan Saraf Rekuren (RNN) telah menjadi jaringan saraf buatan standar untuk mengatasi berbagai tugas, mulai dari pemodelan bahasa hingga peringkasan teks dan mengembangkan sistem chatbot.

Banyak teknik telah dikembangkan untuk meningkatkan kemampuan untuk mengaitkan informasi dari serangkaian data yang panjang. Yang paling populer adalah Long Short-Term Memory (LSTM) dan Gated Recurrent Units (GRU). Namun mereka masih gagal menunjukkan kemampuan memori yang mengesankan atau pengingatan yang efisien pada tugas sintetis.

Itu sebabnya peneliti mengembangkan pendekatan alternatif yang disebut Rotational Unit of Memory (RUM). Tidak seperti jaringan saraf tradisional yang didasarkan pada perkalian matriks, RUM didasarkan pada vektor yang berputar dalam ruang multidimensi.

Referensi: MIT Press Journals | doi:10.1162/tacl_a_00258 | MIT

Ini menggunakan vektor dalam ruang multidimensi (garis tertentu yang menunjuk ke arah tertentu) untuk mewakili setiap kata tunggal dalam teks. Setiap kata berikutnya mengalihkan vektor ke arah tertentu dalam ruang teoretis, yang mungkin berisi ribuan dimensi. Vektor yang dihasilkan (atau sekelompok vektor) kemudian dikonversi kembali ke rangkaian kata yang terkait.

Secara keseluruhan, RUM melakukan dua hal: itu mencermat dinamika sekuens yang rumit dan mengingat informasi secara akurat. Ini juga menunjukkan performa yang menjanjikan untuk pemodelan bahasa tingkat karakter dan penjawab pertanyaan.

Pengujian

Peneliti menguji sistem ini pada berbagai makalah ilmiah, termasuk makalah mereka sendiri yang menjelaskan temuan ini, dan membandingkan hasilnya dengan jaringan saraf berbasis LSTM dan GRU tradisional.

Alih-alih hanya memindai abstrak, RUM membaca seluruh makalah untuk menghasilkan ringkasan sederhana dari isinya. Ringkasan yang dihasilkan oleh sistem ini mengandung istilah teknis dan kata-kata berulang yang lebih sedikit. Meskipun itu bukan prosa yang elegan, itu memang mengenai poin-poin kunci data.

Baca: AI Menulis Puisi Sendiri yang Mirip dengan Karya Shakespeare

Anda dapat mencoba sistem ini pada tugas Anda sendiri: kode dan demo tersedia di GitHub.