Pada tahun 1964, ahli matematika dan ilmuwan komputer Woodrow Bledsoe pertama kali mencoba tugas mencocokkan wajah tersangka dengan foto.
Dia mengukur jarak antara fitur wajah yang berbeda dalam foto cetakan dan memasukkannya ke dalam program komputer. Keberhasilannya yang belum sempurna akan memicu penelitian puluhan tahun ke dalam mesin pengajaran untuk mengenali wajah manusia.
Sekarang sebuah studi baru menunjukkan seberapa besar perusahaan ini telah mengikis privasi kita. Ini tidak hanya memicu alat pengawasan yang semakin kuat. Pengenalan wajah berbasis deep learning generasi terbaru benar-benar mengganggu norma persetujuan kita.
Deborah Raji, seorang rekan di Mozilla, dan Genevieve Fried, yang menasihati anggota Kongres AS tentang akuntabilitas algoritmik, memeriksa lebih dari 130 kumpulan data pengenalan wajah yang dikumpulkan selama 43 tahun.
Mereka menemukan bahwa para peneliti, didorong oleh kebutuhan data yang meningkat dari deep learning, secara bertahap meninggalkan permintaan persetujuan orang-orang. Hal ini menyebabkan semakin banyak foto pribadi orang dimasukkan ke dalam sistem pengawasan tanpa sepengetahuan mereka.
Ini juga menyebabkan kumpulan data yang jauh lebih berantakan: mereka mungkin secara tidak sengaja menyertakan foto anak di bawah umur, menggunakan label rasis dan seksis, atau memiliki kualitas dan pencahayaan yang tidak konsisten.
Orang-orang sangat berhati-hati dalam mengumpulkan, mendokumentasikan, dan memverifikasi data wajah di masa-masa awal, kata Raji. “Sekarang kami tidak peduli lagi. Semua itu sudah ditinggalkan,” katanya. “Anda tidak bisa melacak jutaan wajah. Setelah titik tertentu, Anda bahkan tidak dapat berpura-pura bahwa Anda memiliki kendali.”
Selengkapnya: Technology Review
