Senin, 09 November 2026

Cohere Rilis Command A+: Model Open-Source Apache 2.0 dengan 218B Parameter yang Berjalan di Dua GPU H100

Cohere, perusahaan kecerdasan buatan asal Toronto, Kanada, merilis Command A+ pada 20 Mei 2026 sebagai model terbesar dan paling canggih dalam keluarga Command A. Model ini dirancang sebagai "kuda beban" (workhorse) enterprise: satu model tunggal yang menyatukan kemampuan agen, penalaran, visi, dan terjemahan multibahasa, dengan biaya komputasi yang relatif hemat. πŸ”— Cohere

Peluncuran ini menandai pergeseran strategis Cohere menuju lisensi open-source penuh, dengan merilis bobot model di bawah Apache 2.0. Hingga Oktober 2026, Command A+ masih menjadi model flagship keluarga Command. πŸ”— Cohere

Arsitektur MoE dan Efisiensi Hardware

Command A+ adalah model pertama Cohere berbasis Mixture of Experts (MoE). Secara total model memiliki 218 miliar parameter, namun hanya 25 miliar parameter yang aktif per token. Arsitektur sparse ini memungkinkan model memberikan kualitas mendekati frontier dengan beban inferensi yang jauh lebih ringan. πŸ”— Cohere

Untuk deployment, Command A+ dapat berjalan pada satu GPU NVIDIA B200 atau dua GPU H100 pada mode kuantisasi W4A4, dengan perbedaan kualitas yang nyaris tak terlihat dibandingkan mode presisi penuh. Bobot tersedia dalam tiga kuantisasi — BF16, FP8, dan W4A4 — yang menurut Cohere hampir tanpa penurunan kualitas. πŸ”— Cohere

Efisiensi ini dicapai melalui kuantisasi, speculative decoding yang dioptimalkan untuk arsitektur MoE, serta tokenizer baru yang mengompresi token hingga 20% lebih efisien untuk bahasa Arab, 16% untuk Korea, dan 18% untuk Jepang. Hasilnya, throughput output token meningkat hingga 63% dan latensi time-to-first-token berkurang hingga 17% dibandingkan Command A Reasoning. πŸ”— Cohere

Kemampuan Agen dan Multibahasa

Command A+ dirancang untuk tugas agenik: penggunaan alat (tool use), pengambilan keputusan multi-langkah, dan pemrosesan dokumen multimodal. Pada benchmark Ο„²-Bench Telecom, skor agenik melonjak dari 37% menjadi 85%. Pada Terminal-Bench Hard, performa coding agenik meningkat dari 3% menjadi 25%. πŸ”— Cohere

Kemampuan multimodal juga membaik: 63% pada MMMU Pro dan 75,1% pada MMMU, serta MathVista 80,6%. Cakupan bahasa diperluas dari 23 menjadi 48 bahasa, termasuk seluruh bahasa resmi Uni Eropa, serta bahasa Asia seperti Indonesia, Jepang, Korea, dan Mandarin. πŸ”— Cohere

Pada indeks kecerdasan Artificial Analysis, Command A+ meraih skor 37, mengungguli model open-source lain dalam kategori enterprise agentic workflow. πŸ”— Cohere

Lisensi Apache 2.0 dan Kedaulatan AI

Perubahan paling signifikan adalah lisensi. Command A+ dirilis di bawah Apache 2.0, lisensi open-source yang disetujui OSI. Ini memungkinkan perusahaan mengunduh bobot model, melakukan fine-tuning pada data internal yang sensitif, dan men-deploy di server privat atau jaringan air-gapped tanpa ketergantungan pada infrastruktur Cohere. πŸ”— Cohere

Model juga membawa kemampuan sitasi bawaan, sehingga dapat mengaitkan klaim faktual ke dokumen sumber yang digunakan saat inferensi. Bobot model tersedia di Hugging Face dan dapat di-deploy melalui Model Vault Cohere untuk lingkungan terkelola. πŸ”— CloudRadix

Fakta Kunci

  • Model: Command A+ (command-a-plus-05-2026), rilis 20 Mei 2026
  • Arsitektur: Sparse Mixture of Experts, 218B total / 25B aktif parameter
  • Konteks: 128K input, 64K output; mendukung teks, gambar, dan tool use
  • Bahasa: 48 bahasa, termasuk semua bahasa resmi Uni Eropa
  • Hardware minimum: 1× NVIDIA B200 atau 2× H100 pada W4A4
  • Lisensi: Apache 2.0, tersedia di Hugging Face dan Model Vault
  • Skor Artificial Analysis Intelligence Index: 37

Sumber

Share This!


Tidak ada komentar:

Posting Komentar

Powered By Blogger · Designed By Adzim Developer