Reflection AI, startup yang berbasis di Brooklyn dan memasuki tahun keduanya, mengatakan akan merilis Beam, model AI berbobot terbuka frontier pertamanya. Bobot terbuka adalah pendekatan yang membuka bobot model—angka internal yang ditentukan melalui pelatihan—agar dapat digunakan pihak luar. Reflection mengklaim Beam menghasilkan kinerja yang sebanding dengan model terbuka utama dari China pada tolok ukur penalaran tingkat lanjut, sekaligus menggunakan jauh lebih sedikit komputasi inferensi. Namun, klaim mengenai kinerja dan biaya ini belum diverifikasi secara independen.

Latar belakang dan konteks

Menurut penjelasan yang dirilis Reflection, Beam adalah model khusus teks dengan arsitektur mixture-of-experts (MoE). MoE mengacu pada struktur yang memproses masukan dengan menggunakan sebagian dari beberapa submodel khusus. Perusahaan menjelaskan bahwa model ini dilatih dengan pembelajaran penguatan yang membutuhkan komputasi tinggi agar efektif untuk tugas penalaran, pemrograman, dan agen.

Beam adalah model dengan total 501 miliar parameter, dengan 23 miliar parameter aktif. Pra-pelatihannya menggunakan 23,8 triliun token, sedangkan jendela konteksnya (rentang masukan yang dapat dirujuk sekaligus) mencakup 1 juta token. Sebagai pembanding, GLM-5.2 dari Z.ai memiliki sekitar 744 miliar parameter total dan 40 miliar parameter aktif.

Reflection mengklaim Beam sebanding dengan GLM-5.2 pada tolok ukur penalaran tingkat lanjut, mendapat skor lebih tinggi daripada model terbuka Barat terdepan saat ini, dan menggunakan komputasi inferensi 3–4 kali lebih sedikit. Dalam perbandingan lain yang diajukan perusahaan, Beam mendapat skor lebih tinggi daripada Inkling dalam empat tes pemrograman yang hasilnya dirilis oleh kedua model. Namun, Inkling adalah model multimodal (yang menangani berbagai jenis informasi selain teks), sedangkan Beam hanya menangani teks, sehingga tujuan penggunaan dan cakupan masukan kedua model tidak sama.

Klaim tentang kinerja dan biaya inferensi Beam belum diverifikasi secara independen. Hasil tolok ukur yang disajikan perusahaan saja belum cukup untuk memastikan kinerja atau biaya dalam layanan nyata.

Reflection memperkenalkan Beam sebagai “model pekerja andalan” bagi perusahaan, sektor publik, dan pengembang. Peluncuran ini sejalan dengan rencana perusahaan untuk menghadirkan model dari Barat yang dapat bersaing dengan model terbuka China. Namun, bobot dan seluruh rincian teknis—informasi penting untuk menilai kinerja model—belum dirilis; perusahaan mengatakan akan merilisnya bulan ini.

Reflection didirikan pada 2024 oleh dua peneliti yang sebelumnya bekerja di Google DeepMind. Menurut PitchBook, perusahaan telah mengumpulkan sekitar 4,7 miliar dolar AS dari para investor, termasuk Nvidia, Sequoia Capital, dan Lightspeed Venture Partners, dan pada putaran pendanaan terakhir dinilai memiliki valuasi sebelum investasi sebesar 25 miliar dolar AS. Musim panas ini, perusahaan menandatangani kontrak dengan SpaceX dan Nebius senilai total lebih dari 700 juta dolar AS, yang memberinya akses ke chip GB300 Nvidia hingga 2029.

Arti berita ini

Jika klaim tentang bobot terbuka dan rendahnya biaya inferensi Beam terbukti, pilihan yang tersedia bagi perusahaan dan lembaga publik yang ingin menggunakan model secara langsung dapat bertambah. Khususnya, gagasan “pabrik AI” yang didorong Reflection bertujuan agar institusi melatih model Reflection dengan data eksklusif milik mereka sendiri untuk membangun sistem AI lokal yang disesuaikan. Jika biaya penggunaan model atau kebutuhan komputasinya lebih rendah, hal ini dapat mengurangi beban institusi yang mempertimbangkan sistem semacam itu. Ini merupakan dampak yang mungkin terjadi jika klaim biaya perusahaan terbukti, bukan hasil yang sudah dipastikan.

Sebagai contoh, setelah bobot dan dokumentasi teknis Beam dirilis, institusi yang sedang mempertimbangkan sistem AI dengan memanfaatkan data mereka sendiri dapat menilai kinerja dan kebutuhan komputasi dalam lingkungan mereka. Namun, biaya penerapan dan persyaratan distribusi aktual belum diumumkan. Karena itu, tidak dapat dipastikan bahwa klaim “menggunakan lebih sedikit komputasi” otomatis berarti biaya penerapan yang lebih rendah.

Reflection mulai menguji gagasan kemitraan pabrik AI berdaulat dengan Grup Shinsegae. Menurut laporan Axios, perusahaan dana lindung nilai dan perusahaan perdagangan juga menunjukkan minat untuk membangun sistem semacam ini. Perusahaan mengatakan akan merilis bobot Beam dan seluruh rincian teknisnya bulan ini, serta menyediakan distribusi melalui hyperscaler dan neocloud serta integrasi dengan pustaka sumber terbuka saat peluncuran. Karena itu, hal yang perlu dicermati selanjutnya adalah institusi mana yang dapat menggunakannya dan dengan cara apa.

Fakta yang telah dipastikan dan hal yang belum diketahui

Fakta yang telah dipastikan

  • Reflection mengatakan akan merilis Beam, model terbuka frontier pertamanya.
  • Beam adalah model khusus teks dengan total 501 miliar parameter, 23 miliar di antaranya aktif.
  • Model ini menjalani pra-pelatihan menggunakan 23,8 triliun token dan memiliki jendela konteks 1 juta token.
  • Perusahaan mulai menguji gagasan kemitraan pabrik AI berdaulat dengan Grup Shinsegae.

Hal yang belum diketahui

  • Belum diketahui bagaimana klaim tentang kinerja dan biaya inferensi Beam akan terbukti dalam verifikasi independen.
  • Belum disebutkan kapan tepatnya bobot dan dokumentasi teknis akan dirilis bulan ini.
  • Rincian tentang cara uji coba bersama Grup Shinsegae dilakukan belum diumumkan.
  • Harga penggunaan aktual dan persyaratan distribusi Beam belum diungkapkan.

Hal yang perlu diperhatikan pembaca

  • Perusahaan dan pengembang yang hendak mengevaluasi model perlu mencermati kondisi tolok ukur, dasar perbandingan komputasi inferensi, dan hasil yang sesuai dengan pekerjaan mereka setelah bobot dan dokumentasi teknis dirilis.
  • Institusi yang mempertimbangkan penerapan perlu memastikan bukan hanya ketersediaan distribusi melalui hyperscaler dan neocloud, tetapi juga apakah harga dan persyaratan penggunaan aktual telah diumumkan.
  • Pihak yang tertarik pada sistem AI yang memanfaatkan data mereka sendiri dapat mencermati cara penerapan dan cakupan yang akan diumumkan dalam gagasan uji coba bersama Grup Shinsegae.