Pemolisian prediktif masih rasis — data apa pun yang digunakannya

protes terhadap kekerasan polisi

David McNew/Getty Images



Bukan rahasia lagi bahwa alat kepolisian prediktif adalah bias rasial . Sejumlah penelitian telah menunjukkan bahwa loop umpan balik rasis dapat muncul jika algoritme terlatih tentang data polisi , seperti penangkapan. Tetapi penelitian baru menunjukkan bahwa melatih alat prediksi dengan cara yang dimaksudkan untuk mengurangi bias memiliki sedikit efek.

Penangkapan bias data alat prediksi karena polisi diketahui menangkap lebih banyak orang di Black dan lingkungan minoritas lainnya, yang mengarahkan algoritme untuk mengarahkan lebih banyak kepolisian ke area tersebut, yang mengarah ke lebih banyak penangkapan. Hasilnya adalah alat prediksi salah mengalokasikan patroli polisi: beberapa lingkungan ditetapkan secara tidak adil sebagai titik rawan kejahatan sementara yang lain tidak diawasi.





ras manusia dikutuk
Algoritma kepolisian prediktif adalah rasis. Mereka perlu dibongkar. Kurangnya transparansi dan data pelatihan yang bias berarti alat ini tidak sesuai dengan tujuannya. Jika kita tidak bisa memperbaikinya, kita harus membuangnya.

Dalam pembelaan mereka, banyak pengembang alat kepolisian prediktif mengatakan bahwa mereka telah mulai menggunakan laporan korban untuk mendapatkan gambaran yang lebih akurat tentang tingkat kejahatan di lingkungan yang berbeda. Secara teori, laporan korban seharusnya tidak terlalu bias karena tidak terpengaruh oleh prasangka polisi atau umpan balik.

Tetapi Nil-Jana Akpinar dan Alexandra Chollechova di Carnegie Mellon University dan Maria De-Arteaga di University of Texas di Austin menunjukkan bahwa pandangan yang diberikan oleh laporan korban juga miring . Tim membangun algoritme prediktif mereka sendiri menggunakan model yang sama yang ditemukan di beberapa alat populer, termasuk PredPol, sistem yang paling banyak digunakan di AS. Mereka melatih model tentang data laporan korban untuk Bogotá, Kolombia, salah satu dari sedikit kota di mana data pelaporan kejahatan independen tersedia di tingkat distrik demi distrik.

Ketika mereka membandingkan prediksi alat mereka dengan data kejahatan aktual untuk setiap distrik, mereka menemukan bahwa itu membuat kesalahan yang signifikan. Misalnya, di sebuah distrik di mana sedikit kejahatan yang dilaporkan, alat tersebut memperkirakan sekitar 20% dari titik panas yang sebenarnya—lokasi dengan tingkat kejahatan yang tinggi. Di sisi lain, di distrik dengan jumlah laporan yang tinggi, alat tersebut memperkirakan titik panas 20% lebih banyak daripada yang sebenarnya.



apa ancaman terbesar bagi umat manusia saat ini?

Untuk Rashida Richardson, seorang pengacara dan peneliti yang mempelajari bias algoritmik di Rutgers Law School di New Jersey, hasil ini memperkuat pekerjaan yang ada yang menyoroti masalah dengan kumpulan data yang digunakan dalam pemolisian prediktif. Mereka mengarah pada hasil yang bias yang tidak meningkatkan keselamatan publik, katanya. Saya pikir banyak vendor kepolisian prediktif seperti PredPol pada dasarnya tidak mengerti bagaimana kondisi struktural dan sosial bias atau membelokkan banyak bentuk data kejahatan.

Jadi mengapa algoritma itu salah? Masalah dengan laporan korban adalah bahwa orang kulit hitam lebih mungkin dilaporkan untuk kejahatan daripada kulit putih. Orang kulit putih yang lebih kaya lebih mungkin melaporkan orang kulit hitam yang lebih miskin daripada sebaliknya. Dan orang kulit hitam juga lebih mungkin melaporkan orang kulit hitam lainnya. Seperti halnya data penangkapan, ini menyebabkan lingkungan Hitam lebih sering ditandai sebagai hot spot kejahatan daripada yang seharusnya.

Faktor-faktor lain juga mendistorsi gambar. Pelaporan korban juga terkait dengan kepercayaan atau ketidakpercayaan masyarakat terhadap polisi, kata Richardson. Jadi, jika Anda berada dalam komunitas dengan departemen kepolisian yang secara historis korup atau terkenal bias rasial, itu akan memengaruhi bagaimana dan apakah orang melaporkan kejahatan. Dalam hal ini, alat prediksi mungkin meremehkan tingkat kejahatan di suatu daerah, sehingga tidak akan mendapatkan kepolisian yang dibutuhkannya.

apakah waktu melambat di ruang angkasa?

Tidak ada perbaikan cepat

Lebih buruk lagi, masih belum ada perbaikan teknis yang jelas. Akpinar dan Chouldechova mencoba menyesuaikan model Bogotá mereka untuk memperhitungkan bias yang mereka amati tetapi tidak memiliki cukup data untuk membuat banyak perbedaan—meskipun ada lebih banyak data tingkat distrik untuk Bogotá daripada untuk kota mana pun di AS. Pada akhirnya, tidak jelas apakah mengurangi bias dalam kasus ini lebih mudah daripada upaya sebelumnya yang berhasil menghilangkan bias sistem berbasis data penangkapan, kata Akpinar.



Apa yang bisa dilakukan? Richardson berpikir bahwa tekanan publik untuk membongkar alat rasis dan kebijakan di belakangnya adalah satu-satunya jawaban. Ini hanya masalah kemauan politik, katanya. Dia mencatat bahwa pengadopsi awal alat kepolisian prediktif, seperti Santa Cruz, telah mengumumkan mereka tidak akan lagi menggunakannya dan bahwa ada laporan resmi pedas tentang penggunaan kepolisian prediktif oleh LAPD dan Chicago PD. Tetapi tanggapan di setiap kota berbeda, katanya.

Chicago menangguhkan penggunaan kepolisian prediktif tetapi diinvestasikan kembali dalam database untuk geng kepolisian, yang menurut Richardson memiliki banyak masalah yang sama.

Sangat memprihatinkan bahwa bahkan ketika penyelidikan dan laporan pemerintah menemukan masalah signifikan dengan teknologi ini, politisi dan pejabat polisi tidak cukup untuk mengatakan bahwa itu tidak boleh digunakan, katanya.

bersembunyi

Teknologi Aktual

Kategori

Tidak Dikategorikan

Teknologi

Bioteknologi

Kebijakan Teknologi

Perubahan Iklim

Manusia Dan Teknologi

Bukit Silikon

Komputasi

Majalah Berita Mit

Kecerdasan Buatan

Ruang Angkasa

Kota Pintar

Blockchain

Cerita Fitur

Profil Alumni

Koneksi Alumni

Fitur Berita Mit

1865

Pandangan Ku

77 Jalan Massal

Temui Penulisnya

Profil Dalam Kemurahan Hati

Terlihat Di Kampus

Surat Alumni

Berita

Pemilu 2020

Dengan Indeks

Di Bawah Kubah

Pemadam Kebakaran

Cerita Tak Terbatas

Proyek Teknologi Pandemi

Dari Presiden

Sampul Cerita

Galeri Foto

Direkomendasikan