Bias Rasial Algoritma Masih Menjadi Persoalan
Sistem ”crop” otomatis Twitter menampilkan senator berkulit putih dibandingkan Barack Obama. Zoom tidak mendeteksi figur berkulit hitam. Bahkan, salah tangkap akibat teknologi ”facial recognition” yang salah mengenali.
Pengembang perangkat lunak, Tony Arcieri, mencoba menguji algoritma pada linimasa Twitter dengan foto yang diunggahnya (foto A dan foto B). Hasilnya sesuai dengan tangkapan layar cuitannya; Obama diabaikan, Twitter memilih foto Senator Republikan berkulit putih Mitch McConnell yang muncul di linimasa.
Masih ada masalah pada algoritma dan teknologi kecerdasan buatan, khususnya pada platform digital yang digunakan sehari-hari. Algoritma yang digunakan oleh media sosial ternyata masih memiliki bias rasial.
Sistem ”crop” otomatis Twitter menampilkan senator berkulit putih dibandingkan dengan Presiden Ke-44 Amerika Serikat Barack Obama, sementara layanan video konferensi Zoom tidak mendeteksi figur berkulit hitam. Bahkan, salah tangkap pun terjadi akibat teknologi facial recognition yang salah mengenali.