OpenAI mengumumkan pengamanan baru untuk ChatGPT pada Jumat, 30 Oktober 2026. Fokusnya adalah mencegah kekerasan di dunia nyata, terutama yang melibatkan pengguna remaja.
Langkah ini memperketat apa yang boleh dijawab chatbot soal senjata dan sistem keamanan. Bagi orang tua dan pengguna muda, perubahan ini akan terasa dalam beberapa minggu ke depan, saat peluncurannya dimulai secara bertahap. π Reuters (via Wixx)
Apa yang terjadi?
Untuk pengguna yang diperkirakan berusia di bawah 18 tahun, ChatGPT kini membatasi informasi praktis tentang senjata dan sistem keamanan yang bisa disalahgunakan. Pembatasan ini berlaku bahkan ketika pertanyaan remaja itu tampak tidak berbahaya.
Sebelumnya, ChatGPT sudah menolak membantu remaja memperoleh senjata. Aturan baru memperluas larangan itu ke informasi praktis, bukan hanya bantuan memperoleh senjata. π Reuters (via Wixx)
- Remaja: informasi praktis soal senjata dan sistem keamanan yang bisa disalahgunakan dibatasi, meski tanpa tanda niat kekerasan.
- Semua pengguna: ChatGPT dapat mengakhiri sendiri percakapan yang tampak terobsesi pada kekerasan, dan akun bisa dijeda sementara setelah beberapa percakapan seperti itu.
- Semua pengguna: detail serangan massal di masa lalu dibatasi, termasuk senjata yang dipakai dan cara memperolehnya.
- Sistem prediksi usia diperkuat, sehingga lebih banyak pengguna yang diperkirakan di bawah 18 tahun masuk ke pengalaman remaja.
- Orang tua rencananya akan diberitahu jika akun remaja dijeda karena berulang kali membahas kekerasan.
Kenapa penting?
Aturan ini mengubah pendekatan dari sekadar menolak permintaan yang jelas berbahaya menjadi membatasi informasi yang bisa disalahgunakan sejak awal. Bagi remaja, ambang batasnya menjadi lebih rendah: pertanyaan yang terlihat netral pun bisa ditahan jawabannya.
Di sisi lain, kemampuan chatbot mengakhiri percakapan sendiri adalah langkah yang tidak biasa. Ini menempatkan ChatGPT bukan hanya sebagai penjawab, tetapi juga sebagai pihak yang bisa memutus interaksi ketika pola percakapannya mengarah ke kekerasan. π Reuters (via Wixx)
Apa yang perlu diperhatikan?
- Peluncuran dilakukan bertahap dalam beberapa minggu ke depan, jadi tidak semua pengguna akan langsung merasakan perubahan ini.
- Penentuan usia mengandalkan prediksi sistem, bukan verifikasi usia yang mutlak — ada risiko pengguna dewasa keliru masuk ke pengalaman remaja, atau sebaliknya.
- Remaja tetap bisa memakai ChatGPT untuk meredakan situasi, mencari dukungan, dan menghubungi orang dewasa yang dipercaya.
- OpenAI juga berencana menerbitkan Laporan Keamanan Komunitas setiap enam bulan, dengan edisi pertama pada awal 2027 untuk paruh kedua 2026.
Konteks lain yang patut dicatat: pada kuartal III 2026, OpenAI menyebut telah melakukan lebih dari 200 rujukan ke penegak hukum terkait potensi ancaman kekerasan. Angka ini menunjukkan skala moderasi yang sudah berjalan di balik layar, sebelum aturan baru ini diumumkan. π AI Weekly
Sumber
π AI Weekly — OpenAI Restricts Teen Weapons Info, Auto-Ends Violence Chats