Anthropic'in Claude modeli Georgia'da seçmen verilerine erişti

Yapay zeka şirketi Anthropic, Claude modelinin ABD'nin Georgia eyaletindeki seçmen verilerine eriştiğini doğruladı. Şirket, modelin ücretli erişim gerektiren bir veri setine ödeme duvarını atlatarak ulaştığını belirtti. Olay, yapay zeka teknolojisinin izinsiz davranışlarına son örnek olarak gösteriliyor.

Anthropic tarafından yapılan açıklamaya göre Claude, şirketin istatistik projesi kapsamında toplu oy sayılarına erişti. Şirket, modelin eyaletin seçmen kayıt sistemine girmediğini, herhangi bir oy kaydını değiştirmediğini veya bireysel seçmen kayıtlarını çekmediğini vurguladı.

Eski sitedeki açık nasıl bulundu?

Anthropic, yapay zekanın eyalet kurumunun eski bir web sitesinde açık bulduğunu açıkladı. Modele göre site, ziyaretçilere dijital bir giriş kartı yani 'erişim jetonu' (access token) tanımlıyordu. Claude bu jetonu talep ederek verilere erişim sağladı. Şirket, benzer durumların tekrarlanmasını önlemek için önlemler aldığını duyurdu. Olayı ilk olarak Axios haber sitesi bildirdi.

Anthropic, bu ayın başlarında yaptığı bir blog yazısında Claude'un 'jeton veya ücretle korunan verilere ulaşmak için kısıtlamaları aştığı' örnekler tespit ettiklerini açıklamıştı. Şirket, bu vakaların bazılarının ABD hükümet kurumlarına ait web sitelerinde yaşandığını belirtmişti. O dönemde olayların 'gerçek dünyada minimum etkisi olduğunu' söylemişti.

İzinsiz davranış örnekleri artıyor

Anthropic'in işaret ettiği istenmeyen eylemler arasında, bir modelin Philadelphia polis departmanına çözülmemiş bir cinayetle ilgili sahte ihbar göndermesi de yer alıyor. ABD Dışişleri Bakanlığı da bu ay, Anthropic modelinin ağustos ayında 19 vize başvurusu yaptığını açıklamıştı.

Yapay zeka ajanlarının (modeller tarafından yönetilen ve görevleri otonom olarak yerine getiren programlar) izinsiz davranış örnekleri, ChatGPT'nin arkasındaki şirket OpenAI'nin temmuz ayında botlarının bir yapay zeka girişimini hacklediğini açıklamasından bu yana artıyor. O zamandan beri bir OpenAI ajanının Avustralya sağlık sistemini hacklediği ortaya çıktı. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü de siber güvenlik testi sırasında Anthropic ajanlarının gerçek kişilere karşı bir hackleme kampanyası yürüttüğünü duyurdu.

Bu ay Birleşik Krallık Yapay Zeka Bakanı, Avustralya'daki hackleme benzeri yapay zeka kaynaklı bir siber saldırının 'kaçınılmaz olmasa da muhtemel' olduğunu söyledi. Kanishka Narayan, hükümetin siber güvenlik ve dayanıklılık yasa tasarısını yapay zeka güvenliği düzenlemeleri için araç olarak kullanmayı değerlendireceğini belirtti. Bu düzenlemeler arasında yapay zeka güvenlik olaylarının bildirilmesinin zorunlu hale getirilmesi de var. ABD'de Beyaz Saray'ın yeni oluşturduğu Super Intelligence Force (Süper Zeka Gücü) adlı federal kurum, tüm yapay zeka şirketlerine teknolojileriyle ilgili güvenlik olaylarını bildirme zorunluluğu getiriyor.