İngiltere'de üst düzey Labour yetkilileri yapay zekâ kaygısını dile getirdi

İngiltere'de iktidardaki Labour Partisi'nin üst düzey isimleri, yapay zekânın kontrolsüz gücü konusunda artan bir endişe taşıyor. Westminster'da son bir haftada yapay zekâ güvenliği uyarıları öne çıkan gündem maddelerinden biri haline geldi.

The Guardian'ın haberine göre, teknolojiyle doğrudan ilgisi olmayan bir kabine bakanı, tehlikeli ve kontrol edilemez yapay zekânın kendisini gece uyutmayan konu olduğunu söyledi. Bakanı endişelendiren şeyin "katil robotlar" değil, büyük miktarda yoğunlaşmış süper zekâ gücünün kötü niyetli aktörlerin eline geçme ihtimali olduğu belirtildi. Bir başka üst düzey yetkili ise hükümetin yapay zekâ güvenliği kaygılarını ele alma konusunda "halkın gerisinde kaldığını" ve hızla yetişmesi gerektiğini ifade etti.

Westminster'da uyarılar art arda geldi

Parti konferansında yaptığı konuşmada Ed Miliband, yapay zekânın yol açtığı "ürkütücü" tehlikelere en sert şekilde dikkat çeken isim oldu. Miliband, teknoloji şirketlerinin kârlarının "çocuklarımız ve hatta insanlık pahasına" elde edilmesine izin verilemeyeceğini savundu.

Haftanın başında Yapay Zekâ Bakanı Kanishka Narayan, kötü niyetli yazılım ajanlarının İngiliz devletini hacklemesinin "kaçınılmaz olmasa da muhtemel" olduğunu söyledi ve ülkenin yakında çıkaracağı siber güvenlik mevzuatını güçlendirmeyi planladığını belirtti. Konu salı günü kabine toplantısının ana gündem maddesi oldu.

Ardından MI5 (İngiltere İç İstihbarat Servisi) Başkanı Ken McCallum, yapay zekânın "saldırganlarla savunucular arasındaki siber güvenlik yarışını hızlandırdığını" söyledi. McCallum'a göre en büyük tehdit, aşırılıkçı grupların bu teknolojiyi ölüm ve hastalığa yol açan toksinler olan biyolojik silahlar üretmek için kullanması.

Düzenleme çağrısı ve açık kaynak riski

İş, İnovasyon, Bilim ve Ticaret Komitesi Başkanı Liam Byrne, başbakanlıkta Keir Starmer'dan Andy Burnham'a geçişin yapay zekâ tehditlerine karşı korunmaya verilen önemin artmasında kısmen etkili olduğunu söyledi. Byrne, Starmer yönetiminin büyük teknoloji şirketlerine "fazla yakın" olduğunu, Burnham'ın ise bu şirketlere mesafeli durduğunu belirtti.

Byrne'ın komitesi bu hafta yapay zekâ güvenliğinden sorumlu kamu yöneticileri ile Anthropic, OpenAI, DeepMind ve Meta yöneticilerini dinledi. Şirketler arasında yeni modellerin hükümet tarafından test edilmesinin zorunlu olup olmaması konusunda görüş ayrılığı bulunduğu aktarıldı.

İngiltere Yapay Zekâ Güvenliği Enstitüsü'nün (AISI) eski baş bilim insanı Geoffrey Irving, açık kaynak yapay zekâ modellerinin ücretli modellerin yeteneklerine "yakında" ulaşmasının beklendiğini söyledi. Irving'e göre açık kaynak modellerde güvenlik önlemleri "ya hiç yok ya da kolayca kaldırılabiliyor" ve bu modeller ciddi zarar vermeye şimdiden yetecek güçte olabilir.

King's College London Yapay Zekâ Enstitüsü eş direktörü Prof. Elena Simperl ise insanlığın yok olması riskinin "kanıtı olmadığını" ve bir "teori" olduğunu savundu. Simperl, hackleme ve yapay zekânın sosyal medya kadar bağımlılık yapabileceğine dair işaretler gibi daha acil ve kanıtlanmış risklere odaklanılması gerektiğini söyledi.

Savunma kaynakları, geçen yıl Porton Down merkezli Savunma Bilim ve Teknoloji Laboratuvarı'ndaki (Dstl) yapay zekâ programının iptal edilmesinden endişe duyulduğunu belirtti. Savunma Bakanlığı sözcüsü ise yapay zekânın savunmayı dönüştürdüğünü ve önümüzdeki dört yılda yapay zekâ odaklı yeteneklere 400 milyon sterlin yatırım yapılacağını açıkladı.

Eski kabine sekreteri Gus O'Donnell, bakanların yapay zekâ konusunda güvenlik önlemlerinin yanı sıra "geride kalma riskinin" de farkında olması gerektiğini söyledi. O'Donnell, riskleri yönetirken insanların güvenini azaltacak hatalardan kaçınılması gerektiğini vurguladı.