Ketika Mesin Salah Tafsir Wajah: Dua Warga Dipenjara Akibat AI Keliru

Teknologi seharusnya menjadi alat bantu, bukan hakim yang menentukan nasib seseorang. Namun, di Amerika Serikat, realitas berkata lain. Dua pria tak bersalah terpaksa menghabiskan waktu berbulan-bulan di balik jeruji besi hanya karena sebuah algoritma pengenalan wajah mengidentifikasi mereka secara keliru. Kasus ini menjadi tamparan keras bagi sistem peradilan yang mulai menyerahkan sebagian besar proses identifikasi kepada kecerdasan buatan.

Mengapa ini penting bagi kita semua? Karena Indonesia juga tengah memperluas implementasi teknologi serupa di ruang publik, bandara, dan sistem keamanan. Apa yang terjadi di Negeri Paman Sam bisa menjadi cermin buram bagi negara mana pun yang berencana mengadopsi sistem pengawasan berbasis AI tanpa pengamanan memadai.

Bagaimana Mesin Menentukan Siapa Tersangka

Ibarat seorang saksi mata yang rabun namun terlalu percaya diri, sistem pengenalan wajah berbasis AI (Artificial Intelligence/kecerdasan buatan) bekerja dengan mencocokkan pola geometris wajah seseorang dari rekaman kamera pengawas ke database foto yang dimiliki kepolisian. Perangkat lunak mengukur jarak antara mata, bentuk tulang pipi, kontur rahang, dan lusinan titik referensi lain pada wajah manusia. Hasilnya berupa skor kemiripan—seberapa besar probabilitas bahwa orang dalam rekaman adalah orang yang sama dengan foto di database.

Masalah muncul ketika skor kemiripan itu diperlakukan sebagai bukti nyata. Machine learning, teknik yang melatih model AI untuk mengenali pola dari jutaan contoh gambar, ternyata memiliki bias yang mengerikan. Studi dari NIST (National Institute of Standards and Technology/Lembaga Standar dan Teknologi Nasional) Amerika Serikat menunjukkan bahwa algoritma pengenalan wajah memiliki tingkat kesalahan yang jauh lebih tinggi untuk individu berkulit gelap, khususnya pria kulit hitam. Dua pria yang menjadi korban dalam kasus ini adalah warga Afrika-Amerika—sebuah kebetulan yang terlalu sistematis untuk diabaikan.

Rantai Kegagalan: Dari Algoritma ke Sel Penjara

Proses yang menjebloskan dua pria tak bersalah ini mengikuti pola yang mengkhawatirkan. Pertama, sebuah insiden kriminal terekam kamera pengawas berkualitas rendah. Butiran gambar yang pecah, pencahayaan minim, dan sudut pengambilan gambar yang tidak ideal menciptakan data masukan yang buruk. Ibarat memberikan fotokopi buram dan meminta seseorang mengenali pemiliknya—peluang kesalahan sudah tinggi sejak awal.

Kedua, sistem AI menganalisis rekaman itu dan menghasilkan daftar kandidat dengan skor kemiripan. Dalam banyak kasus, skor yang keluar sebenarnya tidak terlalu tinggi—katakanlah 60% atau 70%. Namun, bukan skor mentah yang disampaikan kepada penyidik, melainkan daftar nama yang sudah terurut. Penyidik yang menerima informasi ini cenderung mengabaikan ketidakpastian statistik di baliknya. Efek psikologis bernama automation bias—kecenderungan manusia untuk terlalu memercayai keluaran mesin—mulai bekerja di sini.

Ketiga, dan ini yang paling fatal, foto hasil identifikasi AI ditunjukkan kepada saksi mata. Praktik ini dikenal sebagai photo lineup atau barisan foto tersangka. Saksi yang mungkin sebelumnya ragu-ragu, kini merasa "dikonfirmasi" oleh teknologi. Keyakinan saksi meningkat bukan karena ingatan yang lebih baik, tetapi karena legitimasi semu yang diberikan oleh cap "teridentifikasi AI". Rantai bukti yang rapuh ini—dari algoritma bias ke rekaman buruk ke saksi yang terpengaruh—cukup kuat untuk membuat jaksa mengajukan tuntutan dan hakim menahan para terdakwa tanpa jaminan.

Para korban dalam kasus ini menghabiskan waktu antara tiga hingga tujuh bulan di penjara sebelum akhirnya dibebaskan. Selama itu, mereka kehilangan pekerjaan, terpisah dari keluarga, dan menanggung stigma sebagai tersangka kriminal. Semua berawal dari keputusan sebuah mesin yang dilatih pada data yang tidak representatif dan diterapkan tanpa pengawasan manusia yang kritis.

Disrupsi di Ruang Sidang: Ketika Kode Program Menjadi Saksi

Kehadiran AI dalam sistem peradilan pidana bukanlah fenomena baru, tetapi eskalasinya patut dicermati. Selain pengenalan wajah, berbagai yurisdiksi di Amerika Serikat telah mengadopsi algoritma penilaian risiko untuk menentukan apakah seorang terdakwa layak mendapat jaminan atau berpotensi melarikan diri. COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) adalah salah satu platform yang kontroversial setelah investigasi ProPublica menemukan bahwa sistem tersebut secara konsisten memberi skor risiko tinggi kepada terdakwa kulit hitam dan skor rendah kepada terdakwa kulit putih, bahkan ketika catatan kriminal dan faktor objektif lainnya setara.

Masalah fundamentalnya adalah banyak dari algoritma ini bersifat proprietary atau tertutup. Kode sumbernya adalah rahasia dagang perusahaan pengembang. Tim pembela tidak bisa memeriksa bagaimana sistem mencapai kesimpulannya. Tidak ada audit trail yang bisa diuji silang. Dalam konteks hukum yang menjunjung tinggi hak konfrontasi—hak terdakwa untuk menghadapi dan mempertanyakan bukti yang digunakan melawan mereka—penggunaan algoritma kotak hitam menjadi sangat problematis.

Ahli forensik digital dari Georgetown Law Center pernah menyatakan keprihatinan ini dengan tajam dalam sebuah publikasi penelitian: "Bagaimana seseorang bisa membela diri melawan saksi yang tidak bisa ditanyai, yang penalarannya tersembunyi di balik lapisan paten perusahaan?"

Pelajaran untuk Ekosistem Teknologi Indonesia

Indonesia saat ini berada dalam fase akselerasi implementasi teknologi pengawasan. Berbagai kota besar telah memasang ribuan kamera CCTV (Closed-Circuit Television/televisi sirkuit tertutup) yang terhubung ke pusat komando. Bandara internasional mulai menguji sistem pengenalan wajah untuk verifikasi penumpang. Kepolisian Republik Indonesia juga telah menyatakan minat untuk mengadopsi deep tech dalam proses identifikasi tersangka. Ekosistem ini berkembang pesat, tetapi regulasi spesifik yang mengatur penggunaan bukti berbasis AI di ruang sidang masih minim.

Beberapa langkah dapat diambil. Pertama, menerapkan standar minimum accuracy threshold—ambang batas akurasi minimum yang harus dipenuhi sebelum identifikasi AI bisa digunakan sebagai bukti awal. Kedua, mewajibkan transparansi algoritma untuk sistem yang digunakan dalam konteks peradilan pidana. Ketiga, memastikan bahwa hasil identifikasi AI tidak pernah menjadi satu-satunya dasar penahanan atau penuntutan. Keempat, membentuk lembaga audit independen yang secara berkala menguji sistem AI forensik untuk bias dan kesalahan.

Kasus dua pria yang dipenjara berbulan-bulan ini adalah peringatan dini. Teknologi bukanlah entitas netral yang jatuh dari langit tanpa cacat. Ia dibangun oleh manusia, dilatih dengan data yang mencerminkan bias manusia, dan diimplementasikan dalam institusi yang juga tidak luput dari prasangka manusia. Tanpa kerendahan hati untuk mengakui keterbatasan mesin—dan tanpa keberanian untuk menempatkan keadilan di atas efisiensi—kita mungkin sedang membangun infrastruktur untuk ketidakadilan generasi berikutnya, kali ini dengan kecepatan dan skala yang belum pernah terjadi sebelumnya.