Memang luar bisa apa yang bisa dilakukan oleh teknologi AI. Namun, teknologi ini pun bisa membawa kontroversi tersendiri. Yang terbaru, teknologi deteksi wajah dituding rasis karena mengubah warna kulit. Termasuk mantan presiden Obama yang menjadi berkulit putih.
Gambar Obama yang berubah jadi kulit putih di atas merupakan tanggapan pengguna Twitter @Chicken3gg pada pengguna lain (@tg_bomze) yang membagi program deteksi wajah di Github. Pengguna lain (@bitcashio) juga mencoba dengan gambar Obama yang sama dengan hasil yang serupa.
Selain Obama, beberapa orang juga mencobanya dengan tokoh lain, seperti aktris Lucy Liu dan anggota kongres Amerika, Alexandria Ocasio-Cortez.
Beberapa percobaan yang dilakukan oleh berbagai orang tersebut memancing anggapan kalau teknologi AI deteksi wajah ini memiliki bias terhadap ras. Bahkan ada pula yang langsung menyebut “Pada dasarnya ini rasis. Bahan uji pengolah gambar kebanyakan hanya mengenali orang kulit putih.”
Teknologi AI yang disebut di sini adalah sebuah program bernama PULSE. Program ini memakai algoritma dengan teknik “upscalling” (memperbesar gambar) untuk memproses data visual. Untuk mengubah gambar dengan resolusi kecil menjadi kualitas yang lebih tinggi, program ini akan “mengisi” bagian-bagian yang diperlukan.
PULSE memakai StyleGAN untuk “membayangkan” versi resolusi tinggi dari gambar berpiksel yang ada. StyleGAN sendiri merupakan teknologi yang dikembangkan oleh tim riset NVIDIA.
Teknologi ini sebelumnya populer karena bisa menghadirkan wajah orang-orang yang tidak nyata secara realistis. Misalnya di situs ThisPersonDoesNotExist.com. Lucunya situs ini bisa menghadirkan orang kulit berwarna).
contoh manusia fiktif hasil AIAnalisa lebih jauh menduga kalau munculnya kecenderungan hasil ras kulit putih merupakan hasil dari “latihan” yang dilakukan pada StyleGAN. Karena orang lebih banyak memasukkan foto orang kulit putih untuk uji coba. Data yang terekam pun akhirnya seperti itu.
Salah satu bukti adalah uji coba yang dilakukan oleh @qusimondo. Ia mununjukkan kalau gambar presiden Obama itu bisa tetap berkulit hitam di Twitter.
Perdebatan soal teknologi AI yang memiliki bias untuk ras ini berjalan panjang. Termasuk pimpinan divisi AI Yann LeCun yang berpendapat teknologi AI akan biasa kalau data juga bias, dan peneliti AI Deborah Raji yang berpendapat bahwa memakai data yang “benar” belum tentu hasilnya “obyektif”.
Di sisi lain, bukan internet namanya kalau tidak ada uji coba yang jail. Misalnya pakai karakter game 8-bit. Hahaha.
