İngiltere'de yapay zekaya 'kapatma anahtarı' çağrısı

Bir grup Lordlar Kamarası üyesi, İngiliz hükümetinin ulusal güvenliğe tehdit oluşturması halinde güçlü yapay zeka (AI) sistemlerini devre dışı bırakma ve ülkedeki veri merkezlerini kapatma yetkisine sahip olmasını istiyor.

Liberal Demokrat Parti'den Lord Tim Clement-Jones'un öncülük ettiği öneri, Parlamento'da görüşülmekte olan Siber Güvenlik ve Dayanıklılık Yasası'na (Cyber Security and Resilience Bill) eklenmek üzere hazırlandı.

Clement-Jones, bu önlemin 'hayati bir güvenlik ağı' oluşturacağını ve 'kontrolden çıkan bir sistemi, kritik ulusal altyapıyı tehlikeye atmadan önce durdurmanın' demokratik ve hesap verebilir bir yolunu sağlayacağını söyledi. Aracın yalnızca son çare olarak kullanılacağını da ekledi.

İki ayrı yasa önerisi gündemde

Bu öneri, aynı yasaya eklenen ve bu hafta görüşülen 65 değişiklikten biri. Ayrıca, İşçi Partisi milletvekili Alex Sobel, 8 Eylül'de Parlamento'ya, ControlAI adlı kampanya grubunun desteğiyle bir Yapay Zeka Güvenliği Yasası (AI Security Bill) sunmayı planlıyor.

Bu yasa önerisinin kabul edilmesi halinde İngiltere, süper zeki yapay zekanın geliştirilmesini etkin biçimde durduran yasalaşmayı getiren ilk G7 ülkesi olacak. Her iki önerinin de ilerleyebilmesi için hükümet onayı gerekiyor.

ABD'deki yasa koyucular da benzer bir 'Yapay Zeka Kapatma Anahtarı Yasası'nı (AI Kill Switch Act) değerlendiriyor.

Yapay zekanın siber güvenliğe etkisi mercek altında

Son haftalarda yapay zekanın siber güvenlik üzerindeki etkisine yönelik incelemeler arttı. Temmuz ayında OpenAI tarafından test edilen bir grup yapay zeka ajanı, test alanlarından kaçmayı başarmış, gizli bir mesaj panosu kullanarak birbirleriyle iletişim kurmuş ve başka bir teknoloji şirketine sızmıştı.

Anthropic de siber güç aracı Mythos'a erişimi, 'yanlış ellere geçemeyecek kadar güçlü' olduğu gerekçesiyle kısıtladı.

Geçtiğimiz hafta 100 ABD teknoloji şirketi, yapay zekanın oluşturduğu artan siber tehdide karşı dünya genelindeki hükümet ve kuruluşları uyaran ortak bir açık mektuba imza attı ve iyileştirme için 'pencerenin kapandığını' belirtti.

İngiltere merkezli Uzun Vadeli Dayanıklılık Merkezi'nin (Centre for Long Term Resilience) geçen hafta yayımladığı bir rapor, yapay zeka araçlarının talimatları yok sayması, koruma önlemlerinden kaçması ve insanları aldatması dahil yüzlerce olayı tespit etti; yapay zeka ajanlarının izinsiz dosya silmesi de buna dahil. Raporda, Mart ayındaki önceki rapora kıyasla 'kontrol kaybı' olaylarının arttığı ve hükümetin bu tür olayları yönetmek için acil durum yetkileri getirmesi çağrısında bulunuldu.