IBM 'Prejudice & # 39; Abandon Face Recognition Technology

By | June 9, 2020

Pria kulit hitam dengan algoritma pengenalan wajah

Hak cipta gambar
Gambar kecil

Keterangan gambar

Sebuah studi oleh pemerintah AS menunjukkan bahwa algoritma pengenalan wajah kurang akurat untuk mengidentifikasi wajah-wajah Afrika Amerika.

Raksasa teknologi IBM akan berhenti menawarkan perangkat lunak pengenalan wajah untuk "pengawasan massal atau profil rasial."

Pengumuman itu menghadapi tuntutan reformasi polisi setelah Amerika Serikat membunuh George Floyd.

Dalam sepucuk surat kepada Kongres AS, IBM mengatakan dibutuhkan tes "bias" untuk sistem AI yang digunakan dalam penegakan hukum.

Seorang aktivis mengatakan ini adalah perilaku "peredaran darah" perusahaan yang memainkan peran penting dalam menciptakan teknologi bagi polisi.

Dalam sepucuk surat kepada Kongres, Ketua IBM Arvind Krishna mengatakan, "Pertarungan melawan rasisme lebih mendesak daripada sebelumnya." Tiga bidang yang ingin perusahaan kerjakan dengan Kongres: reformasi kepolisian, penggunaan teknologi, teknologi, dan pendidikan yang bertanggung jawab. Dibangun dan diperbesar. kesempatan.

"IBM tidak akan menentang keras dan menoleransi penggunaan teknologi apa pun, termasuk teknologi pengenalan wajah yang disediakan oleh vendor lain, untuk pengawasan massal, profil rasial, hak asasi manusia dasar dan pelanggaran."

"Kami percaya sudah waktunya bagi penegak hukum nasional untuk memulai dialog nasional tentang apakah dan bagaimana teknologi pengenalan wajah harus digunakan."

Alih-alih mengandalkan pengakuan wajah yang bias, perusahaan mendesak Kongres untuk menggunakan teknologi yang akan membawa "transparansi yang lebih besar", seperti kamera tubuh polisi dan analisis data.

Analisis data lebih penting bagi bisnis IBM daripada produk pengenalan wajah. Dia juga mengembangkan teknik pemolesan prediktif dan mengkritik potensi bias.

& # 39; Jangan tertipu & # 39;

Eva Blum-Dumontet dari Privacy International mengatakan perusahaan itu menciptakan istilah "kota pintar".

"Di seluruh dunia, mereka mendorong model atau urbanisasi yang bergantung pada kamera dan sensor CCTV yang ditangani oleh polisi, berkat platform kebijakan pintar yang dijual oleh IBM," katanya.

"Inilah sebabnya mengapa sangat sinis untuk berpendapat bahwa IBM sekarang mengubah arah dan menginginkan dialog nasional tentang penggunaan teknologi dalam kebijakan."

Dia menambahkan: "IBM berusaha untuk menebus dirinya sendiri karena telah membantu mengembangkan kapabilitas teknologi kepolisian melalui pengembangan apa yang disebut teknologi kebijakan pintar. Tetapi jangan tertipu oleh gerakan baru-baru ini.

"Pertama-tama, pengumuman mereka ambigu. Mereka berbicara tentang mengakhiri pengenalan wajah mereka dengan & # 39; tujuan umum & # 39 ;. Saya hanya berpikir ini bukan akhir dari pengenalan wajah untuk IBM. Itu akan disesuaikan di masa mendatang."

Algorithmic Justice League adalah salah satu kelompok aktivis pertama yang menunjukkan prasangka rasial dalam dataset pengenalan wajah.

Menurut sebuah studi 2019 yang dilakukan oleh Massachusetts Institute of Technology, alat pengenalan wajah dari Microsoft, Amazon, dan IBM dalam mengenali pria dan wanita dengan kulit gelap tidak 100% akurat.

Dan menurut sebuah studi oleh Institut Nasional Standar dan Teknologi, algoritma pengenalan wajah jauh kurang akurat untuk mengidentifikasi wajah Afrika-Amerika dan Asia dibandingkan dengan kulit putih.

Amazon, yang menggunakan perangkat lunak Rekognition di kantor polisi AS, adalah salah satu pemain terbesar di lapangan, tetapi ada juga pemain kecil seperti Facewatch, yang beroperasi di Inggris. Clearview AI untuk berhenti menggunakan gambar di Facebook, Twitter, dan YouTube juga menjual perangkat lunak ke polisi AS.

Maria Axente, pakar etika AI di perusahaan konsultan PwC, mengatakan pengenalan wajah menunjukkan "risiko etis yang signifikan dalam meningkatkan prasangka dan diskriminasi yang ada."

"Untuk membangun kepercayaan dan memecahkan masalah penting dalam masyarakat, tujuan sebanyak laba harus menjadi tolok ukur utama kinerja," tambahnya.

Leave a Reply

Your email address will not be published. Required fields are marked *