Malam ini, setelah istriku terlelap, pikiranku melayang pada obrolan kami tadi sore.
Bukan tentang pekerjaan atau rencana liburan, tapi tentang sesuatu yang lebih dalam.
Tentang bagaimana alat medis bisa 30% kurang akurat pada perempuan dari kelompok minoritas hanya karena data latihannya tidak beragam.
‘Kok bisa teknologi secanggih itu tidak peka terhadap perbedaan ras?’ bisiknya.
Pertanyaan itu menggantung di udara, membuatku sadar.
Berapa banyak keputusan tak terlihat yang membentuk dunia anak kita, ternyata dibuat oleh sistem yang tidak pernah benar-benar mengenal keluarga seperti kita?
Saat Algoritma Tak Mengenal Ibu Bekerja
Aku jadi teringat wajah kecewanya beberapa bulan lalu, saat aplikasi pinjaman kami ditolak oleh sistem otomatis tanpa penjelasan yang manusiawi.
Dulu aku pikir itu hanya prosedur biasa. Sekarang, setelah mendengar ceritanya tentang data yang bias, aku mulai mengerti.
Mungkin sistem itu hanya dilatih dengan data dari masa lalu, di mana profil peminjam ideal dalam data tidak mencakup ibu yang baru kembali bekerja seperti istriku.
Sistem itu tidak melihat kegigihannya, hanya melihat pola data yang usang.
Malam itu, aku tidak hanya melihat istriku yang lelah, tapi juga seorang pejuang yang setiap hari berhadapan dengan dinding tak kasat mata.
Di Balik Candaan tentang Robot dan Boneka
Kami sering tertawa getir saat aplikasi edukasi terus-menerus menyodorkan permainan boneka untuk anak kami, padahal ia jauh lebih tertarik pada balok susun dan robot.
‘AI-nya stereotip banget, ya?’ kataku mencoba mencairkan suasana.
Tapi di balik candaan itu, ada kegelisahan nyata.
Aku teringat cerita tentang sistem rekrutmen di sebuah perusahaan yang secara otomatis menyaring nama-nama yang ‘terdengar lokal’.
Tiba-tiba aku membayangkan istriku bertahun-tahun lalu, dengan nama khas Sunda, mungkin pernah menjadi korban dari pola data tak terlihat semacam ini.
Lelucon kecil tentang mainan anak kami ternyata punya akar yang jauh lebih dalam dan menyakitkan. Ini adalah salah satu pengaruh data AI pada keluarga Indonesia yang jarang kita bicarakan.
Mengolah Data Seperti Meracik Rendang Keluarga
‘Bayangkan jika resep rendang kita cuma pakai tiga macam rempah,’ ujarku sambil menatap bubur sayuran si kecil yang warnanya begitu kaya.
Istriku tersenyum dan mengangguk paham.
Seperti rendang yang butuh puluhan bumbu dan waktu memasak yang lama agar rasanya sempurna, data berkualitas juga perlu waktu dan keragaman agar bisa ‘melihat’ dunia dengan utuh.
Ia lalu bercerita tentang sebuah klinik yang mulai melatih AI mereka dengan ribuan foto kondisi kulit dari berbagai etnis.
Prosesnya lambat, tapi hasilnya adalah diagnosa yang lebih adil dan manusiawi.
Memilih data AI untuk anak ternyata mirip seperti menyiapkan makanan untuknya: butuh kesabaran, perhatian, dan keinginan untuk memberikan yang terbaik dari bahan-bahan yang paling beragam.
Setiap Klik ‘Setuju’ Adalah Sebuah Pilihan
Malam itu, kami membuat kesepakatan kecil. Kami akan mulai lebih kritis membaca syarat dan ketentuan sebelum mengklik ‘setuju’ di aplikasi apa pun.
‘Ini seperti memilih sekolah untuk anak,’ istriku memberikan analogi yang pas.
Kita harus teliti, harus tahu siapa yang akan mendidik mereka dan dengan nilai-nilai apa.
Siapa tahu, data lokasi dari aplikasi belanja bisa digunakan untuk menentukan akses layanan kesehatan kita di masa depan.
Ini adalah tips data beragam AI keluarga yang paling mendasar: kesadaran.
Kami malah tertawa kecil, membayangkan mungkin suatu saat nanti AI akan belajar dari pola kami.
Bahwa ada sepasang orang tua di sudut kota ini yang rela begadang, bukan hanya untuk menjaga anaknya, tapi juga demi memperjuangkan data yang lebih beretika untuk masa depannya.
Sumber: Why the AI Race Is Being Decided at the Dataset Level, Smart Data Collective, 15 September 2025