AI Dapat Membaca Makalah Penelitian Dan Memberikan Ringkasan Sederhana-Bahasa Inggris

• Para peneliti mengembangkan jaringan saraf baru berdasarkan ide yang belum dijelajahi sebelumnya – rotasi.
• Ini dapat menggantikan metode yang ada untuk mengatasi masalah dunia nyata seperti peringkasan teks, pemodelan bahasa, dan penjawab pertanyaan.

Sebuah makalah penelitian biasanya diisi dengan pendekatan khusus dan terminologi teknis, yang membuatnya cukup sulit untuk dipahami oleh pembaca yang tidak memiliki latar belakang ilmiah.

Baru-baru ini, para ilmuwan di MIT dan Qatar Computing Research Institute menemukan model kecerdasan buatan (AI) baru yang dapat membaca jurnal ilmiah dan memberikan ringkasan sederhana dalam bahasa Inggris dalam beberapa kalimat.

Meskipun menghasilkan hasil yang jauh lebih baik daripada teknik sebelumnya, itu tentu saja tidak dapat menggantikan penulis dan editor sains. Namun, AI ini dapat membantu penulis memindai lebih banyak jurnal dan mendapatkan gambaran tentang jurnal tersebut.

Tim peneliti awalnya mencoba mengembangkan jaringan saraf untuk mengatasi masalah fisika tertentu, misalnya bagaimana cahaya berperilaku dalam bahan rekayasa yang rumit.

Mereka segera menyadari bahwa metodologi yang sama dapat digunakan untuk menangani tugas komputasi kompleks lainnya, seperti pengenalan ucapan dan interpretasi bahasa alami, dengan cara yang jauh lebih efisien daripada metode pembelajaran mesin yang ada.

Apa yang Sebenarnya Mereka Lakukan?

Dalam beberapa tahun terakhir, Recurrent Neural Network (RNN) telah menjadi jaringan saraf tiruan standar untuk menangani berbagai tugas, mulai dari pemodelan bahasa hingga peringkasan teks dan pengembangan sistem chatbot.

Berbagai teknik telah dikembangkan untuk meningkatkan kemampuan mengkorelasikan informasi dari rangkaian data yang panjang. Yang paling populer adalah Long Short-Term Memory (LSTM) dan Gated Recurrent Units (GRU). Tetapi mereka masih gagal untuk menunjukkan kemampuan memori yang mengesankan atau ingatan yang efisien pada tugas-tugas sintetis.

Itu sebabnya peneliti mengembangkan pendekatan alternatif yang disebut Rotational Unit of Memory (RUM). Tidak seperti jaringan saraf tradisional yang didasarkan pada perkalian matriks, RUM didasarkan pada vektor yang berputar dalam ruang multidimensi.

Referensi:Jurnal Pers MIT | doi:10.1162/tacl_a_00258 | MIT 

Ini menggunakan vektor dalam ruang multidimensi (garis tertentu yang menunjuk ke arah tertentu) untuk mewakili setiap kata dalam teks. Setiap kata yang berurutan mengalihkan vektor ke arah tertentu dalam ruang teoretis, yang mungkin berisi ribuan dimensi. Vektor yang dihasilkan (atau sekelompok vektor) kemudian diubah kembali ke rangkaian kata yang terkait.

Secara keseluruhan, RUM melakukan dua hal:mengingat dinamika sekuensial yang rumit dan mengingat informasi secara akurat. Ini juga menunjukkan kinerja yang menjanjikan untuk pemodelan bahasa tingkat karakter dan menjawab pertanyaan.

Pengujian

Para peneliti menguji sistem ini pada banyak makalah ilmiah, termasuk makalah mereka sendiri yang menjelaskan temuan ini, dan membandingkan hasilnya dengan jaringan saraf tradisional berbasis LSTM dan GRU.

Alih-alih hanya memindai abstrak, RUM membaca seluruh makalah untuk menghasilkan ringkasan sederhana dari isinya. Ringkasan yang diberikan oleh sistem ini mengandung lebih sedikit istilah teknis dan kata-kata yang berulang. Meskipun itu bukan prosa yang elegan, itu menyentuh poin-poin penting dari data.

Baca:AI Tulis Puisinya Sendiri yang Menyerupai Karya Shakespeare

Anda dapat mencoba sistem ini pada tugas Anda sendiri: kode dan demo tersedia di GitHub.