İngiltere İçişleri Bakanlığı'nda yapay zeka gizlice kullanılıyor

İngiltere'de İçişleri Bakanlığı'nın (Home Office) göç ve sığınma işlemlerinde yapay zekayı neredeyse tam bir gizlilik içinde kullandığı öne sürüldü. Open Rights Group (ORG) adlı dijital haklar kuruluşunun raporuna göre yapay zeka, sığınmacıların yaşının belirlenmesinden sınır gözetlemeye kadar birçok alanda devrede.

Rapora göre teknoloji, sahte evlilik şüphelilerinin tespitinden yeni gelenlerin telefon içeriklerinin incelenmesine, canlı yüz tanıma ile insansız hava araçları ve uydular üzerinden sınır gözetimine kadar çeşitli görevlerde kullanılıyor. Yapay zeka ayrıca sığınma mülakatlarının özetlenmesinde, bu mülakatlarda delil olarak kullanılan ülke politikası bilgilerinin derlenmesinde ve Identify and Prioritise Immigration Cases (Ipic) adlı şeffaf olmayan araçla dosyaların önceliklendirilip değerlendirilmesinde devreye giriyor.

Raporun bilgileri İçişleri Bakanlığı'nın sınırlı yayımladığı belgeler, bilgi edinme başvuruları ve milletvekillerinin soruları üzerinden toplandı. Rapor, İşçi Partisi'nden Bell Ribeiro-Addy, İskoç Ulusal Partisi'nden Pete Wishart ve Yeşiller'den Siân Berry'nin desteklediği partiler arası bir çalışma niteliğinde.

"İnsanlar veri noktasına indirgeniyor"

"Automated Discrimination: Unpacking the Digital Hostile Environment" (Otomatik Ayrımcılık: Dijital Düşmanca Ortamın Çözümlenmesi) başlıklı rapor, yapay zekanın göç alanında kullanımına ilişkin endişeleri gündeme getiriyor. Rapora göre yapay zeka tarafsız ya da hatasız değil; toplumdaki önyargı ve ayrımcılığı tekrarlayabiliyor. Bu durum özellikle teknolojinin kullanımında göç karşıtı politikalar ve söylemler belirleyici olduğunda daha da belirgin hale geliyor.

Rapor, yapay zekanın neredeyse tam bir gizlilik içinde denendiğini ve yetkililerin bilgi edinme başvurularını ulusal güvenlik gerekçesiyle düzenli olarak engellediğini, açıklanan bilgilerde de sansür uyguladığını belirtiyor. Üst üste gelen hükümetlerin, karmaşık insan hikayelerini çözülebilecek teknik bir soruna indirgeyen bir ideolojiyi dayattığı eleştirisi yapılıyor.

Raporda, insanların "veri noktalarına indirgenmesi" ve 2012'de dönemin İçişleri Bakanı Theresa May'in ortaya koyduğu düşmanca ortamın yeniden üretilmesi kaygısı dile getiriliyor. Raporda, "Kimin burada kalacağına, kimin yeniden tehlikeye geri gönderileceğine yapay zekanın karar vermesine dayanmak son derece kaygı verici bir adım" ifadesi yer alıyor.

Düzenleme talebi

Open Rights Group hükümeti yapay zekayı düzenlemeye ve sığınma başvurularında ChatGPT türü araçların kullanılması gibi demokratik olmayan, insan hakları ihlali riski taşıyan uygulamaları yasaklamaya çağırıyor. Kuruluş ayrıca daha fazla şeffaflık, daha güçlü bilgi edinme yasaları, ulusal güvenlik tanımının daraltılması ve hükümetin yapay zeka araçlarının yer aldığı sağlam bir kamu sicili istiyor.

Ribeiro-Addy, sorulara ve taleplere rağmen İçişleri Bakanlığı'nın yapay zekanın sığınma işlemlerinde nasıl kullanıldığını, sorunların ne olduğunu ve nasıl çözüldüğünü açıklayan belgeleri yayımlamaktan kaçındığını söyledi. Bakanlığın, araçlar hatalı çalıştığında hesap verebilirliğin nasıl sağlanacağını açıklamadığını ve en savunmasız, en az güce sahip kişilerin en büyük riskleri neden üstlenmesi gerektiğini gerekçelendirmediğini belirtti.

ORG program yöneticisi Sara Alsherif ise göçün yapay zekayla çözülebilecek teknik bir sorun değil, insani bir olgu ve deneyim olduğunu vurguladı. Alsherif, yapay zekanın nasıl kullanıldığını kısıtlamak ve yaygınlaşmasını önlemek için şeffaflık, hesap verebilirlik ve sıkı düzenlemeye acilen ihtiyaç duyulduğunu ifade etti.

İçişleri Bakanlığı sözcüsü, yapay zeka kullanımının sınırları korumak için ellerindeki araçlardan yalnızca biri olduğunu ve insan karar vericilerin rolünün yerini almadığını ya da otomatikleştirmediğini söyledi. Sözcü, sığınma kararlarının eğitimli dosya memurları tarafından verildiğini, yapay zeka araçlarının yalnızca mülakat kayıtları ve politika bilgilerinin incelenmesine yardımcı olmak için kullanıldığını belirtti. Bu araçların tek başına kullanılamayacağını ve başvurular hakkında karar vermediğini kaydeden sözcü, araçların performansının mevcut kalite güvence süreçleriyle birlikte düzenli olarak izlendiğini ve yaygınlaştırmaya ilişkin güncel değerlendirmelerin yayımlanacağı taahhüdünün verildiğini ekledi.