Di tengah sorotan atas lonjakan pendapatan Anthropic dalam prospektus IPO yang diperbarui, perusahaan asal Amerika Serikat itu menyelipkan peringatan lain di bagian catatan risiko. Dalam dokumen tersebut, Anthropic menyebut dirinya berada di ambang kemampuan recursive self-improvement (RSI).
RSI adalah titik di mana kecerdasan buatan menjadi sangat mahir melatih dirinya sendiri, sehingga memicu percepatan drastis kemampuan AI. Bagi sebagian pengamat, ini adalah katalis tanpa jalan kembali. Bagi yang lain, ini adalah janji produktivitas dan penemuan ilmiah yang belum terbayangkan. 🔗 TechCrunch
Apa yang Diungkapkan Anthropic
Anthropic menyatakan sudah menggunakan AI dalam riset dan pengembangan (R&D) internalnya. Namun perusahaan memperingatkan, pendekatan ini menyimpan risiko keselamatan yang besar, terutama bila mempercepat laju kemajuan secara tajam. 🔗 TechCrunch
Risiko itu menjadi salah satu area yang diatur dalam Responsible Scaling Policy (RSP) Anthropic. Kebijakan ini menetapkan rencana pemantauan dan mitigasi risiko saat perusahaan mendekati apa yang disebut recursive self-improvement. 🔗 TechCrunch
Dalam pembaruan S-1/A pada Senin, 2 November 2026, Anthropic menambahkan dua pernyataan baru pada bagian Faktor Risiko. Pertama, perusahaan telah menggunakan AI untuk mengembangkan model baru yang lonjakan kemampuannya tidak dikenali pada saat itu. Kedua, perusahaan mungkin segera memenuhi definisi internal RSI-nya sendiri. 🔗 TechCrunch
Kutipan kunci dari dokumen itu menyebut, estimasi internal dan ekspektasi terhadap model-model masa depan — bukan model saat ini — menunjukkan perusahaan mungkin segera memenuhi definisi RSP tentang "kemajuan yang sangat dipercepat yang dapat diatribusikan ke AI". 🔗 TechCrunch
Belum Melampaui Ambang, Tapi Peringatan Jelas
Anthropic menegaskan, belum ada modelnya yang melampaui ambang RSI tersebut, dan perusahaan terus menilai data yang mendasarinya. Perusahaan juga berjanji tetap melibatkan manusia dalam proses R&D untuk masa mendatang yang dapat diperkirakan. 🔗 TechCrunch
Perusahaan menyatakan tidak mengantisipasi dapat dengan aman menggunakan Claude untuk merancang dan membangun generasi model frontier berikutnya secara otonom penuh, tanpa pengawasan atau pemahaman manusia yang bermakna. Anthropic juga mempertimbangkan pembaruan RSP agar manusia tetap mengendalikan pengembangan model frontier. 🔗 TechCrunch
Fakta Kunci
- Anthropic memperbarui prospektus IPO (S-1/A) pada 2 November 2026, di tengah sorotan atas pendapatan yang melonjak dan biaya yang ikut membengkak. 🔗 TechCrunch
- Perusahaan mengakui telah menggunakan AI untuk mempercepat R&D-nya sendiri, yang bisa membuat kemampuan model melaju lebih cepat daripada kemampuan mengembangkan langkah keselamatan, alignment, dan keamanan. 🔗 TechCrunch
- Anthropic menyatakan, di masa lalu perusahaan tidak mengidentifikasi percepatan signifikan dalam laju pengembangan hingga setelah percepatan itu terjadi, dan hal serupa mungkin terjadi di masa depan. 🔗 TechCrunch
- Estimasi internal menunjukkan Anthropic "mungkin segera" memenuhi definisi RSP tentang kemajuan yang sangat dipercepat yang dapat diatribusikan ke AI. 🔗 TechCrunch
- Belum ada model saat ini yang melampaui ambang RSI, dan perusahaan terus menilai data yang mendasarinya. 🔗 TechCrunch
- Anthropic berjanji menjaga manusia tetap dalam kendali pengembangan model frontier. 🔗 TechCrunch
Implikasi dan Tantangan Tata Kelola
Pengakuan ini menempatkan Anthropic di garis depan perdebatan global: seberapa dekat kita dengan AI yang dapat menyempurnakan dirinya sendiri? Para skeptis menunjukkan bahwa S-1 berfungsi ganda sebagai dokumen pengungkapan dan pemasaran, sehingga klaim kedekatan dengan RSI bisa dibaca sebagai promosi. 🔗 TechCrunch
Namun, jika Anthropic benar-benar meyakini RSI sudah dekat, pemerintah dan regulator perlu bertindak. Termasuk di dalamnya menetapkan kerangka tata kelola untuk sistem yang mampu mempercepat dirinya sendiri — sebelum percepatan itu terjadi tanpa terdeteksi.
Tidak ada komentar:
Posting Komentar