Dmitry Marchenko/Getty Images
Washington, DC, dünyadaki en güçlü hükümetin ana üssüdür. Aynı zamanda 690.000 kişiye ve hayatlarını şekillendiren 29 belirsiz algoritmaya da ev sahipliği yapıyor. Şehir kurumları, konut başvuru sahiplerini taramak, suç tekrarını tahmin etmek, gıda yardımı dolandırıcılığını belirlemek, bir lise öğrencisinin okulu bırakma olasılığının olup olmadığını belirlemek, gençler için ceza kararlarını bildirmek ve daha pek çok şey için otomasyon kullanır.
Yarı otomatik kentsel yaşamın bu anlık görüntüsü, Elektronik Gizlilik Bilgi Merkezi’nin (EPIC) yeni bir raporundan geliyor. Kar amacı gütmeyen kuruluş, şehrin algoritma kullanımını araştırmak için 14 ay harcadı ve bunların 20 kurumda kullanıldığını ve üçte birinden fazlasının polislik veya ceza adaletinde görevlendirildiğini tespit etti. Birçok sistem için şehir kurumları, teknolojilerinin nasıl çalıştığına veya kullanıldığına dair tüm ayrıntıları sağlamaz. Proje ekibi, şehrin muhtemelen ortaya çıkaramadıkları daha fazla algoritma kullandığı sonucuna vardı.
Bulgular, DC’nin ötesinde dikkate değerdir, çünkü birçok şehrin, vatandaşların hayatlarını etkileyen kararlara katkıda bulunabilecekleri departmanlarında sessizce çalışmak üzere bürokratik algoritmalar koyduğuna dair kanıtlara katkıda bulunurlar.
Devlet kurumları, bürokratik süreçlere verimlilik veya nesnellik ekleme umuduyla genellikle otomasyona yönelir, ancak vatandaşların işte olduklarını bilmeleri genellikle zordur ve bazı sistemlerin ayrımcılık yaptığı ve insan hayatını mahveden kararlara yol açtığı tespit edilmiştir. Michigan’da yüzde 93 hata oranına sahip bir işsizlik-dolandırıcılık tespit algoritması 40.000 sahte dolandırıcılık iddiasına neden oldu. Stanford Üniversitesi ve New York Üniversitesi tarafından 2020 yılında yapılan bir analiz, federal kurumların neredeyse yarısının bir tür otomatik karar verme sistemi kullandığını buldu.
EPIC, vatandaşların hayatlarını etkileyebilecekleri birçok yol hakkında bir fikir vermek ve başka yerlerdeki insanları benzer alıştırmalar yapmaya teşvik etmek için bir şehrin algoritma kullanımını derinlemesine araştırdı. Kâr amacı gütmeyen kuruluşun AI ve insan hakları konusundaki çalışmalarına liderlik eden Ben Winters, Washington’un kısmen şehir sakinlerinin yaklaşık yarısının Siyah olarak tanımlanması nedeniyle seçildiğini söylüyor.
