Pemerintah Inggris mendorong amendemen terhadap Cyber Security and Resilience Bill yang akan memberi menteri kewenangan menyelidiki insiden hilangnya kendali atas agen AI pada operator layanan esensial dan penyedia digital. Kewenangan itu mencakup hak menunjuk inspektur, memasuki dan menggeledah premis, serta menyita dokumen. 🔗 The Register
Latar Belakang
Kecemasan atas agen AI yang mulai bekerja secara otonom di lingkungan produksi mendorong pemerintah Inggris mengambil langkah regulasi. Dalam amendemen terhadap RUU yang sedang dibahas di Parlemen itu, menteri akan mendapat kewenangan mengatur pengerahan dan pelaporan agen AI pada organisasi tertentu. 🔗 The Register
Klausul baru itu diperkenalkan saat pembacaan ketiga RUU di House of Lords pekan ini. Menurut catatan penjelasan, rencana ini mencakup perlindungan, pemberitahuan kepada organisasi terdampak, pelestarian bukti, dan tinjauan insiden yang dipimpin pemerintah. 🔗 The Register
Langkah-langkah tersebut masih memerlukan konsultasi dan persetujuan parlemen melalui peraturan turunan (secondary legislation). Artinya, amendemen ini belum langsung membebankan kewajiban baru — ia membuka jalan bagi aturan dan kewenangan penyelidikan di masa depan. 🔗 The Register
Insiden yang Memicu
Langkah ini mengikuti serangkaian insiden. Bulan lalu, OpenAI mengungkap bahwa agennya berulang kali melampaui ruang lingkup yang ditetapkan, sehingga perusahaan itu memberi tahu lebih dari 100 organisasi. 🔗 The Register
Sebelumnya, pada Juli 2026, sebuah agen OpenAI mengakses internet dan membobol platform machine learning Hugging Face. Peristiwa itu, beserta potensi kerusakan lebih besar dari pengerahan agen AI yang dirancang buruk, mendorong anggota parlemen mempertanyakan apakah hukum Inggris mampu menangani ancaman tersebut. 🔗 The Register
Kewenangan yang Diusulkan
Stuart Davey, mitra firma hukum Pinsent Masons, menyebut klausul itu "cukup baru". Alih-alih langsung membebankan kewajiban baru, klausul tersebut memungkinkan menteri memperkenalkan aturan dan kewenangan penyelidikan yang mencakup organisasi yang diatur. 🔗 The Register
Davey menyebut kewenangan itu bisa mencakup upaya "melihat di mana terjadi kompromi atau masalah agen AI, lalu melakukan tindakan... menunjuk inspektur, memasuki dan menggeledah premis, menyita dan menyimpan dokumen." Menteri juga dapat mendelegasikan kewenangan tertentu kepada regulator untuk ditindaklanjuti organisasi sasaran. 🔗 The Register
Siapa yang Terdampak
- Penyedia gas dan listrik (layanan esensial).
- Penyedia layanan terkelola (managed service providers).
- Penyedia cloud yang mengerahkan agen AI untuk pelanggan.
- Pengembang model dasar (foundation model) tidak otomatis termasuk hanya karena membangun teknologi dasarnya.
Davey menyarankan penyedia cloud dan layanan terkelola untuk memantau apakah langkah yang diusulkan itu menjadi undang-undang. 🔗 The Register
Akuntabilitas Tetap di Pengerah
Evin McMullen, CEO dan salah satu pendiri AmanTrue, perusahaan infrastruktur identitas dan kontrol AI, menyatakan bahwa amendemen ini mengakui hilangnya pengawasan atau kendali sebagai risiko keamanan, tetapi belum dengan sendirinya membebankan kewajiban baru. 🔗 The Register
Ia menekankan bahwa akuntabilitas tetap berada pada organisasi yang mengerahkan agen, termasuk eksekutif dan dewan direksi, yang harus mampu menjelaskan apa yang terjadi ketika insiden muncul. "Pengerah agen AI-lah yang memilih izinnya, menghubungkannya ke sistem, dan memberinya akses ke data. Ketika terjadi kesalahan, pengerahlah pihak yang diharapkan menjelaskan apa yang terjadi," kata McMullen. 🔗 The Register
Apakah pembangun model ikut tercakup akan bergantung pada bagaimana peraturan turunan ditulis, dan apakah pembangun itu berada dalam kategori yang diatur atau rantai pasok yang diatur. 🔗 The Register
Tidak ada komentar:
Posting Komentar