Pengenalan wajah Amazon secara keliru menyebut 26 anggota parlemen California sebagai penjahat



Saat lembaga pemerintah terus mendorong penyebaran sistem pengenalan wajah, Anda tidak perlu melihat jauh untuk melihat mengapa itu berita buruk. Untuk mengilustrasikan hal ini, ACLU melakukan tes perangkat lunak Rekognisi Amazon – teknologi pengenalan wajah yang saat ini digunakan oleh penegak hukum AS – di mana ia salah mengidentifikasi 26 anggota parlemen California sebagai pasangan yang cocok dalam basis data kriminal.

Kami akan berhenti sementara Anda tertawa di "politisi adalah lelucon penjahat berlari melalui kepala Anda.

Ini kedua kalinya ACLU menjalankan tes jenis ini. Pada tes pertama yang dilakukan tahun lalu, Rekognition sangat tidak akurat, menghasilkan hasil yang salah dan bias ras ketika mencoba untuk mencocokkan anggota Kongres.

Lengkap hari ini, tes ACLU terbaru memuat 120 gambar anggota parlemen California terhadap database 25.000 foto. Perangkat lunak Rekognition Amazon menghasilkan positif palsu sekitar 20 persen dari waktu.

Phil Ting, anggota Majelis San Francisco, dan salah satu dari pertandingan yang salah, menggunakan hasilnya untuk menggalang dukungan bagi rancangan undang-undang yang akan melarang penggunaan teknologi di kamera badan polisi. "Kami ingin menjalankan ini sebagai demonstrasi tentang bagaimana perangkat lunak ini sama sekali tidak siap untuk prime time," kata Ting saat konferensi pers. "Meskipun kita dapat menertawakannya sebagai legislator, tidak masalah bagi seseorang yang mencoba mendapatkan pekerjaan, jika Anda adalah individu yang berusaha mendapatkan rumah."

Seorang juru bicara Amazon memberi tahu TNW:

ACLU sekali lagi secara sadar menyalahgunakan dan salah mengartikan Rekognisi Amazon untuk menjadi berita utama. Seperti yang telah kami katakan berkali-kali di masa lalu, ketika digunakan dengan ambang batas kepercayaan 99% yang direkomendasikan dan sebagai salah satu bagian dari keputusan yang digerakkan manusia, teknologi pengenalan wajah dapat digunakan untuk daftar panjang tujuan bermanfaat, dari membantu identifikasi. penjahat untuk membantu menemukan anak-anak yang hilang untuk menghambat perdagangan manusia. Kami terus mengadvokasi undang-undang federal teknologi pengenalan wajah untuk memastikan penggunaan yang bertanggung jawab, dan kami telah membagikan saran khusus kami untuk hal ini baik secara pribadi dengan pembuat kebijakan dan di blog kami.

Pengacara ACLU Matt Cagle, yang bekerja dengan UC Berkeley untuk secara independen memverifikasi hasil yang diperdebatkan terhadap kritik tersebut. Dalam komentar untuk Gizmodo, Cagle mengatakan bahwa ACLU tidak menggunakan ambang batas kepercayaan 99 persen karena terjebak dengan pengaturan default di perangkat lunak Amazon – yang merupakan skor kepercayaan 80 persen.

Amazon membantah klaim itu, menunjuk ke sebuah posting blog di mana ia mencatat bahwa Rekognition tidak boleh digunakan dengan tingkat kepercayaan kurang dari 99 persen. Tentu saja, ini hanya menimbulkan lebih banyak pertanyaan. Secara khusus, mengapa tidak 99 persen pengaturan default perangkat lunak?