Aplikasi AI Pembuat Video Porno Berkeliaran di App Store

Sejumlah aplikasi berbasis kecerdasan buatan (AI) yang memungkinkan pengguna membuat video dewasa dilaporkan masih mudah ditemukan di App Store milik Apple. Aplikasi-aplikasi tersebut menawarkan layanan gratis untuk membuat beberapa konten sebelum akhirnya meminta pembayaran berlangganan. Temuan ini kembali memicu perdebatan soal efektivitas kebijakan moderasi toko aplikasi global.

Keberadaan aplikasi semacam ini menimbulkan kekhawatiran serius di kalangan pengamat keamanan digital. Pasalnya, teknologi yang sama kerap disalahgunakan untuk membuat konten deepfake tanpa persetujuan orang yang wajahnya ditiru. Risiko penyalahgunaan semakin besar seiring makin canggihnya kemampuan AI dalam meniru gambar dan suara manusia.

Model Bisnis Gratis Berbayar

Menurut laporan yang beredar, aplikasi-aplikasi ini menggunakan model freemium yang terbilang agresif. Pengguna dapat membuat sejumlah konten secara gratis pada percobaan pertama untuk menarik minat. Setelah itu, fitur-fitur lanjutan baru bisa diakses setelah pengguna membayar biaya berlangganan yang nilainya bervariasi.

Skema tersebut dinilai efektif untuk memperbesar basis pengguna sekaligus menaikkan pendapatan pengembang. Biaya berlangganan menjadi sumber pendapatan utama bagi aplikasi semacam ini, dengan berbagai paket harga yang ditawarkan mulai dari mingguan hingga tahunan. Beberapa aplikasi bahkan menyediakan fitur berbayar untuk menghapus tanda air pada video yang dihasilkan.

Cara Kerja Aplikasi Berbasis AI

Dengan memasukkan deskripsi teks atau memilih gambar referensi, pengguna dapat menghasilkan video sintetis dalam hitungan menit. Algoritma AI bekerja dengan mempelajari pola visual dari jutaan gambar dan video yang tersedia di internet. Proses yang dulunya membutuhkan keahlian teknis tinggi kini bisa dilakukan siapa saja hanya dengan beberapa kali ketukan layar.

Kemudahan akses inilah yang menjadi kekhawatiran utama para pakar. Teknologi yang seharusnya digunakan untuk keperluan kreatif bisa berubah menjadi alat pelecehan ketika dipakai tanpa persetujuan orang yang menjadi subjeknya. Kasus penyalahgunaan AI untuk konten dewasa telah banyak terjadi di berbagai negara.

Ancaman Deepfake Tanpa Persetujuan

Para pakar menyoroti risiko besar dari aplikasi tersebut, terutama potensi pembuatan konten non-konsensual. Teknologi AI saat ini mampu meniru wajah dan suara seseorang dengan sangat meyakinkan sehingga sulit dibedakan dari video asli. Korban deepfake kerap mengalami tekanan psikologis berat setelah wajahnya disalahgunakan dalam video palsu yang menyebar luas.

"Yang paling berbahaya bukanlah aplikasinya, melainkan bagaimana teknologi ini dipakai untuk menyasar orang lain tanpa izin. Banyak korban tidak sadar wajahnya telah disalahgunakan sampai video palsu itu tersebar," ujar seorang pakar keamanan siber yang enggan disebutkan namanya.

Di sejumlah negara, korban deepfake melaporkan mengalami stigma sosial, kehilangan pekerjaan, hingga trauma berkepanjangan. Kondisi ini menunjukkan bahwa dampak penyalahgunaan AI tidak hanya terjadi di ranah digital, tetapi juga merambah kehidupan nyata para korban.

Kebijakan App Store yang Dipertanyakan

Apple memiliki pedoman peninjauan aplikasi yang melarang konten dewasa eksplisit. Namun, temuan ini menunjukkan bahwa kebijakan tersebut masih bisa ditembus oleh aplikasi yang menggunakan cara penyamaran tertentu. Beberapa aplikasi diketahui lolos proses review dengan tampil sebagai aplikasi pembuat gambar atau editor video biasa.

Setelah diunduh, pengguna baru menyadari fungsi sebenarnya dari aplikasi tersebut. Hal ini memperlihatkan celah dalam sistem moderasi toko aplikasi yang selama ini dianggap ketat. Operator platform kini menghadapi tekanan untuk memperbarui mekanisme deteksi mereka agar lebih responsif terhadap modus baru.

Langkah-langkah yang bisa dilakukan pengguna untuk melindungi diri antara lain:

• Memeriksa ulasan dan reputasi pengembang sebelum mengunduh aplikasi.
• Menolak memberikan akses kamera atau galeri kepada aplikasi yang mencurigakan.
• Melaporkan aplikasi bermasalah melalui kanal resmi toko aplikasi.
• Mengaktifkan verifikasi tambahan untuk setiap pembelian dalam aplikasi.

Ancaman bagi Anak di Bawah Umur

Kekhawatiran lain menyangkut akses anak di bawah umur terhadap aplikasi semacam ini. Konten dewasa yang dihasilkan AI berpotensi dilihat atau bahkan dibuat oleh pengguna di bawah umur tanpa pengawasan orang tua. Regulator di berbagai negara telah mendorong penerapan verifikasi usia yang lebih ketat di toko aplikasi.

Para pegiat perlindungan anak mendesak platform untuk menerapkan sistem kontrol orang tua yang lebih kuat. Pengawasan terhadap iklan dan kata kunci pencarian yang mengarahkan pengguna ke aplikasi semacam ini juga dinilai perlu diperketat agar anak-anak tidak mudah menemukannya.

Respons Regulator dan Harapan Pengawasan

Di Indonesia, Kementerian Komunikasi dan Digital menyatakan akan memantau peredaran aplikasi semacam ini. Regulator dapat meminta platform menurunkan konten yang melanggar aturan hukum yang berlaku. Penyebaran konten pornografi dan deepfake non-konsensual melanggar hukum di banyak yurisdiksi, dengan ancaman sanksi pidana bagi pelakunya.

Para pegiat perlindungan konsumen mendesak Apple dan operator toko aplikasi lainnya untuk memperketat proses peninjauan secara menyeluruh. Pengawasan berbasis AI juga disarankan untuk mendeteksi aplikasi yang menyembunyikan fungsi sebenarnya. Publik berharap langkah tegas segera diambil agar teknologi AI tidak menjadi alat pelecehan. Perlindungan privasi dan keamanan pengguna harus menjadi prioritas utama di tengah pesatnya perkembangan kecerdasan buatan.