Model generatif gambar kini tidak lagi harus memilih antara kualitas dan kecepatan. G-STAR, kerangka kerja generasi gambar berbasis autoregressive (AR) dari tim Peking University dan Meituan Longcat, mengompres urutan visual hingga 32–64 kali lipat tanpa mengorbankan kualitas — dan menghasilkan satu gambar 1024x1024 dalam 2,5 detik pada satu GPU NVIDIA H200. π Menurut abstrak makalahnya, capaian itu sekitar 20 kali lebih cepat dari model AR diskret sebelumnya.
G-STAR adalah singkatan dari "Group-Scaled Token Capacity for Deeply Compressed Autoregressive Generation". Kode inferensi dan pelatihannya dirilis secara terbuka pada 4 November 2026, sedangkan makalahnya terbit di arXiv pada 8 November 2026. π GitHub DAGroup-PKU/G-STAR
Masalah yang Dipecahkan G-STAR
Model generatif gambar saat ini umumnya berbasis difusi: mereka membersihkan noise selama puluhan langkah, yang membuatnya mahal dan lambat saat inferensi. Model AR diskret menawarkan jalur yang lebih ringkas, tetapi selama ini mengorbankan kualitas — karena setiap token menyimpan informasi yang terbatas. π arXiv:2611.13004
G-STAR mengubah keseimbangan itu dengan prinsip sederhana: saat faktor kompresi spasial bertambah, ukuran kelompok (group size) pada kuantisasi produk bertambah sesuai kuadratnya. Dengan begitu, anggaran informasi nominal tetap terjaga meski urutan global menjadi jauh lebih pendek. π Halaman proyek G-STAR
Dua Model, Satu Kerangka
Para peneliti melatih dua model dari kerangka yang sama. G-STAR-Pro-8B memakai tokenizer 32x dengan group size 16 dan direkomendasikan untuk kualitas. G-STAR-Flash-1.7B memakai tokenizer efektif 64x dengan group size 32 dan menekankan latensi rendah. π GitHub DAGroup-PKU/G-STAR
Untuk mengendalikan ketergantungan internal antar-kode dalam satu kelompok, tim memperkenalkan kepala semi-autoregressive: fitur semua slot dihitung secara paralel, lalu konsistensinya dijaga oleh Transformer kausal satu lapisan yang ringan. π Halaman proyek G-STAR
Secepat Apa?
Pada resolusi 1024x1024, G-STAR-Flash-1.7B menghasilkan satu gambar dalam 2,5 detik pada satu GPU H200. Empat optimasi sistem yang saling menguatkan mendorong percepatan end-to-end sebesar 8,9 kali lipat dari baseline AR kausal yang membutuhkan 22,23 detik. π GitHub DAGroup-PKU/G-STAR
- Kepala semi-AR: 22,23 detik menjadi 14,93 detik (1,5x).
- Ditambah CUDA Graph: menjadi 5,85 detik (3,8x).
- Ditambah kernel fusion: menjadi 3,37 detik (6,6x).
- Ditambah SGLang serving: menjadi 2,50 detik (8,9x).
Skor Benchmark G-STAR-Pro-8B
Di level model, G-STAR-Pro-8B bersaing dengan model kontinu terkemuka yang jauh lebih besar, sementara arsitektur AR tetap mempertahankan jalur yang ringkas, hemat memori, dan mudah di-debug. π GitHub DAGroup-PKU/G-STAR
- GenEval: 0,84 — setara GPT Image 1 dan Seedream 3.0.
- DPG-Bench: 83,38.
- PRISM: 6,98.
- LongText-Bench: 0,935.
- Qwen-Image-Bench: 50,07 — tertinggi di antara model AR yang dibandingkan.
- GEdit-Bench (pengeditan gambar): 7,45 — dekat dengan GPT-Image-1 (7,53) dan Qwen-Image-Edit (7,56).
Sebagai perbandingan, G-STAR-Flash-1.7B yang lebih kecil meraih GenEval 0,76 dan Qwen-Image-Bench 46,88 — tetap kompetitif dengan ukuran yang jauh lebih kecil. π GitHub DAGroup-PKU/G-STAR
Mengapa Ini Penting
Percepatan inferensi ini berpotensi mengubah ekonomi pembangunan gambar: dengan biaya per-token yang lebih rendah dan waktu proses yang lebih pendek, model AR yang sangat terkompresi menjadi alternatif realistis untuk pipeline yang membutuhkan output tinggi dengan throughput besar. π mlllm.io
Karena model dan kode pelatihannya dirilis secara terbuka di GitHub dan Hugging Face, peneliti maupun perusahaan dapat mengujinya dan mengembangkannya tanpa kunci komersial. Hal ini menandai geseran penting: kompetisi di generasi gambar AI kini tidak lagi sekadar soal ukuran model, tetapi seberapa efisien representasi visual dapat dimodelkan. π GitHub DAGroup-PKU/G-STAR
Kunci Fakta
- G-STAR = "Group-Scaled Token Capacity for Deeply Compressed Autoregressive Generation", arXiv:2611.13004.
- Tim: Xu Huang, Ye Huang, Xiaotong Li, Zhengrong Yue, Jialv Zou, Minhao Jing, Haodong Li, Wenhao Yan, Yaxin Luo, Duomin Wang, Daquan Zhou (Peking University, Meituan Longcat, SJTU, HUST, CUHK, Tsinghua, MBZUAI).
- G-STAR-Flash-1.7B: gambar 1024x1024 dalam 2,5 detik di satu NVIDIA H200; percepatan end-to-end 8,9x dari baseline AR kausal.
- G-STAR-Pro-8B: kompresi 32x, skor GenEval 0,84 dan GEdit-Bench 7,45.
- Kode dirilis 4 November 2026; makalah arXiv terbit 8 November 2026; lisensi kode MIT.
Sumber
- π Huang, X., et al. — "G-STAR: Group-Scaled Token Capacity for Deeply Compressed Autoregressive Generation", arXiv:2611.13004 (8 November 2026)
- π Halaman proyek G-STAR, DA Group (Peking University)
- π GitHub — DAGroup-PKU/G-STAR (model dan kode pelatihan, lisensi MIT)
- π mlllm.io — "G-STAR: 20x Faster Image Generation on Compressed Tokens" (14 November 2026)
Tidak ada komentar:
Posting Komentar