Esperanto Perkenalkan Akselerator AI RISC-V 1.093 Inti untuk Inferensi Data Center
Startup Esperanto telah mengumumkan ET-SoC-1, akselerator AI 1.093-inti RISC-V yang dirancang untuk soket akselerator M.2 di lingkungan data center. Debut di konferensi Hot Chips, chip ini menawarkan performa 800 TOPS di seluruh enam modul pada satu kartu Glacier Point sambil tetap dalam envelop daya 120-W.
Desain Unggulan
ET-SoC-1 menyelenggarakan 1.088 inti ET-Minion yang mengeksekusi beban kerja AI, empat inti ET-Maxion berkinerja tinggi dan sebuah prosesor layanan RISC-V. Arsitektur dibangun di sekitar efisiensi energi: jam 1 GHz, pasokan 0,4 V dan proses 7 nm TSMC memberikan chip “titik manis” sebesar 20 W per unit, dengan fleksibilitas untuk beroperasi antara 10 dan 60 W.
Kasus Penggunaan Target: Inferensi Rekomendasi
Operator skala hiper membutuhkan latensi inferensi 10 ms atau kurang untuk mesin rekomendasi. Chip ini mengatasi ini dengan 100 MB memori on-chip dan 100 GB kapasitas off-chip, semuanya pada kartu akselerator untuk menghindari bottleneck PCIe. Dukungan INT8, FP16 dan FP32 menjaga presisi di tempat yang penting.
Arsitektur Inti
Setiap inti 64-bit, in-order menjalankan unit vektor dan tensor yang dioptimalkan AI yang menyampaikan 128 GOPS per GHz. Instruksi tensor multi-siklus khusus dapat mengeksekusi lebih dari 64.000 operasi per siklus, mengurangi lalu lintas instruksi. Delapan inti membentuk “lingkungan” yang berbagi cache L2 dan memungkinkan beban kooperatif, sementara empat lingkungan membentuk “Minion Shire.” Chip menawarkan 1.088 inti (atau 1.024 untuk hasil yang lebih tinggi) dan empat inti ET-Maxion yang setara dengan Arm A-72.
Sistem Memori
Empat antarmuka DDR 64-bit (yang masing-masing terdiri dari empat channel 16-bit) menyediakan bandwidth 96×16-bit. Chip menggunakan LPDDR4x, mencapai energi per bit yang setara dengan HBM, sementara tumpukan enam chip mencapai cache off-chip 100-GB.
Posisi Kompetitif
Berbeda dengan TPU atau Inferentia yang besar dan boros daya, pendekatan multi-chip hemat daya Esperanto memanfaatkan ekosistem open-compute. Operator skala hiper yang mencari akselerator standar dan hemat biaya menemukan solusi Esperanto menarik.
Pandangan Masa Depan
Iterasi masa depan mungkin menargetkan kasus penggunaan edge dengan versi ET-SoC-1 yang diskalakan ke bawah. Versi saat ini dijadwalkan untuk diluncurkan dalam beberapa bulan mendatang.
Sumber: Esperanto & wawancara EE Times dengan Dave Ditzel, co-penulis paper RISC tahun 1980.
