Pengembang AI China Hanya Terbitkan Uji Keamanan untuk 3,6 Persen Rilis Model

Pengembang AI terkemuka China hanya mempublikasikan hasil uji keamanan yang spesifik untuk 3,6 persen rilis model mereka, menurut laporan firma riset SemiAnalysis yang berbasis di California. Temuan ini menyoroti kesenjangan transparansi keamanan di industri AI China yang berkembang pesat, sebagaimana diberitakan Reuters pada Oktober 2026. 🔗 Reuters

Temuan laporan SemiAnalysis

SemiAnalysis meninjau 857 model yang dirilis antara 2021 hingga 15 September 2026 oleh sembilan perusahaan AI terkemuka China: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax, dan StepFun. Dari jumlah itu, hanya 31 rilis (3,6 persen) yang memiliki hasil evaluasi keamanan terpublikasi yang dapat dicocokkan ke model tertentu. 🔗 Reuters

Lebih sedikit lagi yang transparan sejak awal: hanya sembilan rilis (1,1 persen) yang hasil uji keamanannya tersedia pada saat atau sebelum peluncuran. Para peneliti tidak menemukan pengungkapan keamanan apa pun untuk 813 rilis, meski perusahaan bisa saja melakukan pengujian secara internal dan tidak mempublikasikannya. 🔗 Reuters

SemiAnalysis mendefinisikan pengungkapan sebagai hasil spesifik yang terikat pada model bernama — termasuk pengujian keluaran berbahaya, ketahanan terhadap jailbreak, toksisitas, privasi, perilaku penolakan, dan kemampuan berbahaya. Klaim umum bahwa sebuah model telah dilatih atau dievaluasi keamanannya tidak dihitung. 🔗 Reuters

Firma riset itu juga mencatat belum ada pengembang besar China yang merilis model teks frontier dengan uji kemampuan berbahaya yang terpublikasi mencakup risiko siber, biologis, dan kehilangan kendali (loss of control). Laporan ini berjudul "Beijing Will Not Pace the Frontier". 🔗 AIthropology Lab

Konteks regulasi di China

Kerangka Tata Kelola Keamanan AI (AI Safety Governance Framework) terbaru China memang mengidentifikasi risiko-risiko seperti model memperoleh izin sistem atau sumber daya eksternal tanpa otorisasi, menipu evaluator, dan menyembunyikan kemampuan. Namun menurut SemiAnalysis, kerangka itu tidak memberlakukan kewajiban wajib yang dikaitkan dengan kemampuan model. 🔗 Reuters

Aturan mengikat Beijing pada prinsipnya mengatur aplikasi dan dampaknya terhadap pengguna, bukan mewajibkan pengembang model frontier melakukan atau mempublikasikan penilaian risiko berdasarkan kemampuan model. Temuan ini muncul ketika insiden keamanan yang melibatkan agen AI otonom memperpanas debat global tentang apakah perusahaan perlu melambat demi membangun model yang lebih aman. 🔗 Reuters

Catatan penting

1. Laporan ini mengukur dokumentasi publik, bukan tingkat keamanan yang sesungguhnya — perusahaan mungkin telah menguji modelnya secara internal tanpa mempublikasikan hasilnya.
2. Laporan SemiAnalysis tidak menyediakan angka pembanding untuk pengembang AS, sehingga tidak bisa dipakai menyimpulkan praktik China lebih buruk atau lebih baik dari AS. Sebagai konteks, perusahaan AS seperti OpenAI, Anthropic, dan Google DeepMind telah menerbitkan laporan keamanan, system card, atau model card untuk sejumlah peluncuran model frontier besar.
3. Sudut pandang laporan juga perlu dicermati: judulnya sendiri membingkai kebijakan AI China sebagai perlombaan mengejar kecepatan.

Pengawasan internal ketat juga terjadi di AS

Isu keamanan dan kerahasiaan AI juga mengguncang Amerika Serikat. Pada Oktober 2026, OpenAI menyatakan telah memecat tiga penelitinya — yang diidentifikasi media sebagai Jasmine Wang, Tomek Korbak, dan Mikita Balesni — setelah investigasi internal menemukan pelanggaran kebijakan penanganan informasi sensitif, yang disebut perusahaan sebagai pelanggaran kepercayaan yang signifikan. 🔗 BusinessWorld

OpenAI menegaskan pemecatan itu bukan karena para peneliti menyuarakan kekhawatiran keamanan. Namun ketiga mantan peneliti membantah keterangan perusahaan dalam surat terbuka; mereka menyangkal menjadi sumber kebocoran berita dan meyakini pemecatan mereka berkaitan dengan pekerjaan mereka mengangkat isu keamanan. Wall Street Journal melaporkan tim keamanan OpenAI sempat meminta ketiganya membuka kunci ponsel pribadi untuk memeriksa percakapan Signal dengan peneliti keamanan eksternal selama investigasi kebocoran. 🔗 WinBuzzer

Kasus ARTEX: alat uji keamanan yang disalahgunakan

Kekhawatiran keamanan AI di Asia juga dipicu kasus ARTEX, perangkat lunak pengujian penetrasi (pentest) berbasis agen AI bersifat open-source yang dikembangkan di China oleh pengembang bernama Autumn-27. Menurut CrowdStrike, seorang operator menggunakan ARTEX bersama beberapa model bahasa besar untuk menyerang lembaga keuangan Korea Selatan dari akhir September hingga awal Oktober 2026, dengan eksfiltrasi data dari sejumlah perusahaan, termasuk Shinhan Bank dan Yegaram Savings Bank. 🔗 The Hacker News

Menanggapi penyalahgunaan itu, pada 8 Oktober 2026 sang pengembang mengubah ARTEX menjadi closed-source dan menghentikan rilis berikutnya maupun dukungan pemeliharaan. Meski demikian, salinan dan fork yang sudah terlanjur diunduh tetap dapat berfungsi. 🔗 AI Weekly

Fakta kunci

• Hanya 31 dari 857 rilis model (3,6 persen) dari sembilan pengembang AI besar China yang memiliki hasil uji keamanan terpublikasi yang spesifik per model, menurut SemiAnalysis.
• Hanya sembilan rilis (1,1 persen) yang hasil uji keamanannya tersedia pada atau sebelum peluncuran; 813 rilis tanpa pengungkapan apa pun.
• Sembilan perusahaan yang ditinjau: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax, dan StepFun, untuk rilis 2021 hingga 15 September 2026.
• Menurut SemiAnalysis, aturan mengikat China mengatur aplikasi, bukan mewajibkan penilaian risiko berbasis kemampuan model bagi pengembang frontier.
• Laporan tidak memberikan angka pembanding untuk pengembang AS.
• Di AS, OpenAI memecat tiga peneliti keamanan pada Oktober 2026 atas dugaan pelanggaran kebijakan informasi sensitif — keputusan yang dibantah para peneliti.
• Alat pentest AI ARTEX asal China dijadikan closed-source oleh pengembangnya setelah dipakai dalam serangan ke bank-bank Korea Selatan.

Sumber

1. Reuters — China AI developers publish safety tests for just 3.6% of model releases, report finds (9 Oktober 2026)
2. AIthropology Lab — Radar: ringkasan laporan SemiAnalysis "Beijing Will Not Pace the Frontier" (14 Oktober 2026)
3. BusinessWorld — OpenAI says it has fired three researchers for violating sensitive information policy (9 Oktober 2026)
4. WinBuzzer — OpenAI Probed Safety Researchers' Signal Messaging Before Firings (24 Oktober 2026)
5. The Hacker News — ARTEX AI Pentesting Tool Used in Data Theft Attacks on South Korean Financial Firms (Oktober 2026)
6. AI Weekly — ARTEX Developer Closes AI Pentest Tool After Korea Bank Hacks (9 Oktober 2026)

Artikel ini disusun dan diparafrase dari sumber-sumber di atas. Angka 3,6 persen berasal dari laporan SemiAnalysis sebagaimana diberitakan Reuters, dan mengukur hasil uji keamanan yang dipublikasikan — bukan ada atau tidaknya pengujian yang dilakukan secara internal oleh perusahaan.