Polislikte yapay zeka ayrımcılığı artırabilir uyarısı

Polislik alanında yapay zeka (AI) kullanımının artması, azınlık gruplara yönelik ayrımcılığı derinleştirme riski taşıyor. Araştırmacılar, suç tahmini için kullanılan sistemlerin geçmişteki polis verilerindeki önyargıları büyütebileceğini belirtiyor.

Konuya ilişkin değerlendirmeler, Birleşik Krallık Bilim Yazarları Derneği'nin (Association of British Science Writers) her yıl verdiği 2026 Genç Bilim Yazarı Ödülü'nü kazanan İngiliz yazar Adrian Dredge'in makalesinde ele alındı.

Geçmiş verilerdeki önyargı yeni kararlara taşınıyor

Sidney Üniversitesi Hukuk Fakültesi'nde dijital adalet alanında doçent ve araştırmacı olan Dr Carolyn McKay'ye göre yapay zeka sistemleri, insan önyargısı içeren verilerle eğitiliyor. Bu durum, kendi kendini gerçekleştiren kehanetlere yol açabiliyor.

McKay, devlet polisliğinin kamusal işlevlerinin insan denetimine ve incelemeye tabi olması gerektiğini söylüyor. Sistemlerin kullandığı verilerin kontrol edilmesi ve önyargıların ayıklanması gerektiğini savunuyor.

Texas Üniversitesi'nden sosyolog Sarah Brayne, Los Angeles Polis Departmanı'nda büyük verinin nasıl kullanıldığını inceledi. Araştırmasında, birimin suça yalnızca tepki vermekle kalmayıp giderek daha fazla veriyle suç tahmini yaptığını ortaya koydu.

Brayne'e göre kamuya açık yerlerde işlenen suçların görülme ve kaydedilme olasılığı daha yüksek. Polisin odağı da orantısız biçimde siyah mahallelere kayıyor. Bu veriler sisteme girdiğinde ise tahminler tarafsız görünüyor.

Karşı görüş: yeni sistemler eski önyargıları aşabiliyor

Londra Queen Mary Üniversitesi'nde çok modlu yapay zeka alanında doçent olan Dr Dimitrios Kollias bu görüşe katılmıyor. Kollias, teknolojinin geçmiş verilerdeki önyargıyı dikkate alacak şekilde geliştiğini belirtiyor.

BBC News'e konuşan Kollias, modern yapay zeka sistemlerinin eğitim örneklerini yalnızca kopyalamadığını, öğrenilen bilgileri yeni biçimlerde birleştirebildiğini söylüyor. Ancak bu yeni yeteneklerin ayrı bir risk oluşturduğunu da ekliyor: Sistemler daha özerk kararlar aldıkça davranışlarının güvenli ve insan kontrolünde kalması gerekiyor.

New York Üniversitesi'ndeki araştırmacılar ise sistemlerin sözde "kirli veri"ye dayanabileceğine dikkat çekiyor. Bu veriler, yolsuz, önyargılı veya yasa dışı uygulamalarla şekillenmiş polis kayıtlarını ifade ediyor. Araştırmada incelenen 13 ABD bölgesinin dokuzunda, bu tür dönemlere ait polis verilerinin sistemleri eğitmek için kullanılabildiği görüldü.

Araştırmacılara göre yapay zeka bu verilerin hatalı olduğunu ayırt edemiyor; yalnızca tekrarlanacak bir örüntü olarak ele alıyor. Bu nedenle uzmanlar, verilerin nasıl üretildiğinin bağımsız olarak denetlenmesi gerektiğini vurguluyor.

ABD sağlık sisteminde 2019'da yapılan ve Science dergisinde yayımlanan bir araştırma da benzer bir soruna işaret etti. Hangi hastaların ek desteğe ihtiyacı olduğunu tahmin eden sistem, siyah hastalar için ayrılan payı adaletsiz biçimde düşük tutuyordu. Sistem, ihtiyaç yerine tedavi maliyetini ölçüt aldığı için yanlı davranıyordu. Ölçüt hastalık düzeyine çevrildiğinde ek destek için seçilen siyah hastaların oranı yaklaşık yüzde 18'den yüzde 47'ye çıkacaktı.

Kollias, kirli veriden kaynaklanan önyargının önemli bir sorun olduğunu kabul ediyor ancak bunun kaçınılmaz olmadığını söylüyor. Sistemlerin adil olmayan sonuçlar açısından test edilebileceğini, verilerin ve hedeflerin iyileştirilebileceğini belirtiyor.

McKay ise hedef bölgelerin sakinleriyle yakından bağlantılı olduğunu hatırlatıyor. Bu bölgelerin aşırı polis denetimi ve marjinalleşmeyle karşılaşmaya devam edebileceğini söylüyor.

Uzmanların ortak vurgusu, insan denetiminin sürmesi. Aksi halde yapay zekanın eski hataları kalıcı hale getirme riski taşıdığı belirtiliyor.