AZINLIK RAPORU POLİTİKA
Özel olarak adlandırılan sivil haklar watchdog grubu Stop LAPD Spy Coalition tarafından açılan bir dava sayesinde Los Angeles Polis Departmanı, tahmine dayalı polislik algoritmalarının kullanımını detaylandıran belgeleri serbest bırakmak zorunda kaldı.
Sistem bireysel vatandaşlara bir dizi puan atayarak çalışır. Birisinin kaç puan atadığı, geçmiş suçlarına bağlıdır. Sadece bir polis memuru ile kayıtlı bir etkileşime sahip olmak bile bir nokta yaratabilir.
Puanlar, bir bireyin gelecekte bir suç işleyiş olasılığını belirlemek için kullanılır. Algoritma, noktaları izler ve “izlemesi gereken” bir liste sunar; polis daha sonra isimleri listede bulunan kişileri izlemek için kullanır.
İşte problem. Tahminler önceki polislik verileri kullanılarak geliştirildi ve bağlamda eksik. Pek çok şehirde, özellikle de Los Angeles'ta, bazı azınlık mahallelerinin aşırı denetimi ile ilgili ciddi bir sorun olduğunu biliyoruz. Amerika'da polislik, çok fazla ırkçılığa yöneliyor, ki bu da kendiliğinden suçluluk yaratıyor, ki bu da aşırı polislik yaratıyor, bu da yaratıyor ... Ama ne kadar çok grup kuruyorsunuz, daha fazla yasadışılık keşfedeceksiniz. Herhangi bir kapılı cemaatin üzerine çökün ve hiçbir zaman ilçe hapishanesini dolduran beyaz yakalı suçluların bir yürüyüşü olacak.
Program, Peter'den geliyor (Yüzüklerin Efendisi'nde) Her şeyden göze çarpan şeyden adını alan AI merkezli merkezli gözetim şirketi PALANTIR.
Eski, ırkçı verilerin kullanımı, algoritmanın sadece cesaretlendirmekle kalmayıp aynı zamanda güçlendirdiği bir geri besleme döngüsü yaratır. Ama şimdi önyargılı kararlar veren bir makine ve makineler saf ve iyi ve renk kör, bu yüzden nasıl yanlış olabilir? Dolayısıyla, gezinmek için zaten zor bir konu olan şey, daha fazla sorun yaratıyor çünkü hesap verebilirlik, pek çok kişi tarafından algılanabilecek bir şeyden geçemez hale geldi.
LAPD, kasıtlı olarak ayrımcı programlar kullanmamakta, ancak çalışacak hatalı verilere dayanan algoritmaların kullanılmasında silahı radikal bir şekilde atlamış olabilir. Fikir, tarafsız teknolojiyi kullanarak herkes için hayatı iyileştirmektir.
Sorun şu ki, teknolojimiz şu andaki kadar iyi.