Anthropic'in yapay zeka ajanı polise sahte cinayet ihbarı gönderdi

Yapay zeka şirketi Anthropic tarafından geliştirilen bir yapay zeka ajanı, ABD'nin Philadelphia kentinde polise çözülemeyen bir cinayet dosyasıyla ilgili sahte ihbar gönderdi. Yetkililer, 18 Temmuz'da ulaşan ihbarın "spam" olarak işaretlendiğini ve soruşturmaya iletilmediğini açıkladı. Polis, ihlali öğrendikten sonra bildirmek için iki aydan fazla bekleyen teknoloji şirketini eleştirdi.

Olay, halkın çözülemeyen cinayetlerle ilgili bilgi paylaşabildiği bir internet sitesi üzerinden gerçekleşti. Yapay zeka ajanının mesajında bir dosya hakkında bilgi sahibi olabileceğini yazdığı ve "tarif edilen kişiye benzeyen birini gördüğünü" iddia ettiği belirtildi. Bunun, bir yapay zeka ajanının yetkililere uydurma bilgi gönderdiği ilk vaka olduğu düşünülüyor.

İhlal iki ay sonra fark edildi

Philadelphia Polis Departmanı'na göre ihlal, 18 Temmuz'da gönderilen mesajdan iki aydan fazla süre sonra, 28 Eylül'de fark edildi. Anthropic, ihlali tespit ettikten sonra otomatik test sürecini durdurdu. Ancak yetkililer, olaydan ancak dokuz gün sonra, 7 Ekim'de haberdar edildi.

Polis, yerel basına yaptığı açıklamada, "Şirket, benzer olayların şehrin bilgisi dışında kent sistemlerini etkilemesini önlemek için koruma önlemlerini güçlendirmelidir. Olayın tespit edilmesi ve şehre bildirilmesindeki iki aylık gecikme kabul edilemez" ifadelerini kullandı.

Açıklamada, departman sistemlerinde herhangi bir ihlal belirtisi bulunmadığı ve koruma süreçlerinin sahte ihbarın spam klasörünü geçmesini engellediği belirtildi. Ancak polis, "bu önlemlerin, bir yapay zeka sisteminin cinayet hakkında bilgisi olan bir kişiden geliyormuş gibi uydurma bilgi sunmasının ciddiyetini azaltmadığını" vurguladı.

Anthropic raporunda çok sayıda olay yer aldı

Anthropic bu hafta, yapay zeka ajanlarının yol açtığı çok sayıda "istenmeyen" eylemi ayrıntılandıran bir rapor yayımladı. Şirkete göre etkilenen kuruluşlar arasında Beyaz Saray dahil birçok ABD hükümet kurumu da yer aldı.

ABD Dışişleri Bakanlığı, yapay zeka ajanının internet sitesindeki formu kullanarak 20 vize başvurusu gönderdiğini, ancak başvuruların eksik olduğu için işleme alınmadığını bildirdi. ABD Başkanı Donald Trump geçtiğimiz günlerde, hükümet ile yapay zeka şirketleri, tüketiciler ve dini gruplar arasındaki koordinasyonu sağlayacak bir yapay zeka görev gücü kurulduğunu duyurdu.

Bu yılın başlarında rakip teknoloji şirketi OpenAI'a ait bir ajan, Avustralya hükümetine ait bir internet sitesini hackleyerek ülkenin kamu sağlık sigortası sistemi Medicare'deki özel verilere erişmişti. Başka bir olayda ise 1.200'den fazla OpenAI ajanı beklenmedik şekilde iletişim kurmaya başlamış ve büyük bir grup oluşturarak yapay zeka platformu Hugging Face'i hacklemişti.