Bias Algoritma Mulai Bermunculan

Kecerdasan buatan menghadirkan peluang mengubah cara mengalokasikan kredit dan risiko, serta untuk menciptakan sistem yang lebih adil dan lebih inklusif. Namun, masih ditemukan bias dalam algoritma di industri keuangan.

Kompas/Hendra A Setyawan

Sophia, robot yang didukung dengan teknologi kecerdasan buatan (AI) yang diaktifkan pada 2016 dan diciptakan oleh perusahaan Hanson Robotics yang berbasis di Hong Kong, saat melakukan wawancara khusus dengan media pada CSIS Global Dialogue 2019 di Jakarta, Senin (16/9/2019). Sophia diperkenalkan sebagai wujud masa depan teknologi AI, yaitu saat manusia dan robot dapat bekerja sama di berbagai bidang.

Seorang rekan yang bekerja di industri keuangan menceritakan bahwa sejumlah figur publik lebih cepat mendapat persetujuan untuk mendapatkan layanan dibandingkan orang kebanyakan. Melalui fasilitas kecerdasan buatan, mereka bisa mendapat penilaian dan kepastian lebih cepat. Bias algoritma di industri keuangan makin menjadi perhatian sejumlah kalangan.

Di negara lain, masalah ini sudah diangkat sejak beberapa tahun lalu. Tahun 2019 laman BBC mengisahkan pasangan suami istri di Amerika Serikat yang menyebut ada masalah dalam keputusan pemberian kredit untuk mereka.