lidia-susanto
Ketika teknologi yang dirancang untuk membantu justru menyakiti kelompok tertentu, wajar jika publik bertanya: seberapa siap sebenarnya kecerdasan buatan (AI) memahami keragaman manusia? Pertanyaan itu kembali mengemuka setelah Google Gemini, asisten AI (Artificial Intelligence/kecerdasan buatan) besutan Google, menuai kecaman karena memberikan jawaban yang dianggap bernuansa Islamofobia ketika pengguna menanyakan perihal umat Muslim. Gelombang kritik itu menyebar cepat di media sosial dan memaksa publik kembali membahas bias dalam model bahasa besar (LLM/large language model).
Ibarat seperti cermin, model AI memantulkan apa yang ia pelajari dari data. Jika data pelatihannya mengandung prasangka, maka jawaban yang keluar pun bisa ikut bias. Persoalannya, AI kini sudah menyentuh kehidupan sehari-hari—dari pencarian informasi di ponsel hingga rekomendasi layanan publik—sehingga kesalahan semacam ini bukan sekadar isu teknis, melainkan masalah kepercayaan yang berdampak nyata pada jutaan pengguna.
Kronologi: Pertanyaan Sederhana, Jawaban Kontroversial
Kontroversi ini bermula dari unggahan sejumlah pengguna yang menguji Gemini dengan kueri seputar komunitas Muslim. Alih-alih memberikan penjelasan netral dan faktual, model tersebut dinilai merespons dengan narasi yang menyudutkan. Banyak pengguna pun menyebutnya sebagai bentuk Islamofobia terselubung dari sistem otomatis yang seharusnya netral.
Perlu dicatat, Gemini adalah produk AI generatif yang dikembangkan Google DeepMind dan dirancang untuk menjawab pertanyaan dalam berbagai bahasa dan konteks. Dalam pengujian internal, Google mengklaim telah membangun lapisan keamanan serta pedoman etika yang ketat. Namun, klaim tersebut tidak menjamin hasil akhirnya bebas dari kesalahan, terutama untuk topik yang menyentuh sentimen keagamaan dan identitas budaya.
Fenomena ini juga bukan yang pertama kali terjadi. Sebelumnya, berbagai model AI dari sejumlah perusahaan pernah kedapatan melontarkan respons yang rasis, seksis, hingga menyesatkan. Artinya, kasus Gemini ini adalah bagian dari pola yang lebih besar: persoalan bias dalam ekosistem pengembangan AI masih menjadi pekerjaan rumah yang belum tuntas di industri.
Kenapa AI Bisa Menghasilkan Jawaban Bias?
Untuk memahami akar masalahnya, kita perlu melihat cara kerja model bahasa besar. Model ini belajar dari miliaran dokumen yang diambil dari internet—artikel berita, forum, buku, hingga percakapan publik. Jika mayoritas sumber tersebut menggambarkan suatu kelompok secara negatif, model akan menganggap pola itu sebagai hal yang normal dan mereproduksinya saat mendapat pertanyaan serupa.
Ibarat seperti anak kecil yang tumbuh dengan menonton tayangan penuh stereotip, model AI akan meniru apa yang paling sering ia lihat. Di sinilah pentingnya riset mitigasi bias, seperti fine-tuning (penyesuaian ulang model dengan data khusus) dan red-teaming (pengujian dengan skenario bermusuhan), yang bertujuan menekan respons berbahaya sebelum model dirilis ke publik.
Meski demikian, tidak ada metode yang sempurna. Perusahaan pengembang hanya bisa mengurangi risiko, bukan menghilangkannya sepenuhnya. Terlebih, definisi “bias” sendiri bisa berbeda-beda di setiap budaya dan negara, sehingga satu pedoman global sering kali tidak cukup untuk menjawab keragaman masyarakat.
Respons Google dan Pelajaran bagi Industri
Menanggapi kecaman tersebut, Google dikabarkan meninjau kembali respons Gemini dan memperkuat sistem moderasinya. Langkah ini sejalan dengan kebijakan perusahaan yang sebelumnya telah menekankan komitmen pada pengembangan AI yang bertanggung jawab, termasuk prinsip untuk tidak merugikan dan menghormati keberagaman pengguna.
Namun, para pengamat menilai respons cepat saja belum cukup. Mereka mendorong transparansi yang lebih besar: publik perlu tahu data apa yang digunakan, bagaimana model dievaluasi, dan sejauh mana hasil pengujian internal dapat dipercaya. Tanpa transparansi tersebut, kepercayaan terhadap platform AI akan terus diuji setiap kali insiden serupa muncul.
Bagi Indonesia, kasus ini menjadi pengingat penting. Dengan adopsi AI yang semakin luas di sektor pendidikan, pemerintahan, hingga ekonomi digital, pengembang lokal perlu memastikan teknologi ini dibangun dengan pemahaman konteks budaya yang kuat. Keberagaman Indonesia—dari suku, agama, hingga bahasa daerah—menuntut model AI yang lebih inklusif, bukan sekadar salinan dari model global.
Pada akhirnya, kontroversi ini bukan tentang menunjuk satu perusahaan sebagai biang kesalahan. Ini adalah momentum untuk bertanya: bagaimana kita ingin teknologi masa depan memperlakukan kita? Jika AI ingin menjadi alat yang benar-benar melayani semua orang, maka menghilangkan bias bukan lagi sekadar pilihan, melainkan sebuah keharusan.
Comments (0)