Investigasi terbaru mengungkap jaringan ratusan aplikasi yang tampak seperti alat AI biasa, tetapi diam-diam bisa memuat fitur pembuatan deepfake yang merugikan. Temuan ini menjadi peringatan keras bagi pengguna toko aplikasi: tampilan yang polos belum tentu aman.
Apa yang terjadi?
Investigasi WIRED yang terbit 2 November 2026, berdasarkan riset organisasi nirlaba AI Forensics dan perusahaan keamanan Infoblox, menemukan jaringan lebih dari 400 aplikasi dan domain web yang saling terhubung. Aplikasi-aplikasi itu menyamar sebagai editor foto hewan peliharaan, tutor bahasa, hingga pelatih kebugaran berbasis AI. 🔗 AppleInsider
Saat diperiksa toko aplikasi, aplikasi tersebut menampilkan fitur yang tampak tidak berbahaya. Namun setelah terpasang, aplikasi itu menghubungi server jarak jauh dan bisa memuat antarmuka tersembunyi untuk membuat deepfake seksual non-konsensual dan konten kekerasan dari foto yang diunggah pengguna.
Salah satu contoh yang disebut adalah Viefur, aplikasi pembuat potret hewan peliharaan berbasis AI. Setelah WIRED membagikan temuannya, Apple menghapus 19 aplikasi dari App Store, termasuk Viefur.
Kenapa penting?
Kasus ini menunjukkan celah pada model peninjauan toko aplikasi yang hanya memeriksa versi aplikasi saat diajukan. Jika konten berbahaya dimuat dari server setelah aplikasi lolos peninjauan, pengguna bisa tertipu oleh tampilan awal yang bersih.
Jangkauannya juga tidak kecil. Laporan menyebut, pada September 2026, 27 aplikasi terkait di Google Play telah mengumpulkan lebih dari 350.000 unduhan secara kolektif. Skala itu menunjukkan betapa cepat aplikasi semacam ini bisa menyebar sebelum ditindak. 🔗 Silicon Report
Apple menyatakan aplikasi-aplikasi itu mematuhi aturan saat pertama kali ditinjau, lalu pengembang mengganti situs web yang memasok kontennya dengan materi pornografi. Apple juga menyebut telah menangguhkan puluhan ribu aplikasi selama setahun terakhir karena taktik “bait-and-switch” serupa.
Apa yang perlu diperhatikan?
- Periksa izin dan reputasi aplikasi sebelum mengunggah foto pribadi, terutama foto wajah.
- Waspadai aplikasi yang meminta foto lalu mengarahkan ke situs web eksternal yang tidak jelas.
- Jika menemukan aplikasi mencurigakan, laporkan melalui mekanisme pelaporan App Store atau Google Play.
- Jangan mengunggah foto orang lain ke aplikasi pengolah gambar yang belum terverifikasi.
- Perbarui aplikasi dan sistem operasi agar mendapat perlindungan terbaru dari platform.
- Korban deepfake non-konsensual sebaiknya segera menyimpan bukti dan melapor ke platform serta aparat berwenang.
Pada 16 Oktober 2026, Apple juga memperbarui pedoman peninjauan aplikasinya untuk menegaskan larangan terhadap citra intim non-konsensual hasil AI dan aplikasi yang menyembunyikan fungsinya saat peninjauan. Meta, di sisi lain, dilaporkan menindak ribuan akun iklan dan halaman yang terkait dengan jaringan tersebut. 🔗 AppleInsider
Sumber
- 🔗 AppleInsider
- 🔗 Silicon Report
Tidak ada komentar:
Posting Komentar