İngiltere siber savunmasını güçlendiriyor

İngiltere Yapay Zeka Bakanı Kanishka Narayan, en gelişmiş yapay zeka sistemlerini geliştiren şirketlerin güvenlik konusunda daha fazla sorumluluk alması gerektiğini söyleyecek. Narayan, ülkenin siber savunmasının güçlendirileceğini de duyuracak.

Narayan, yapay zeka alanında öncü çalışmalar yürüten şirketlere, geliştirdikleri modellerin güvenli olduğundan emin olmak için daha fazla adım atma çağrısı yapacak. İngiltere'nin güvenliği sağlama işini tamamen teknoloji şirketlerine bırakamayacağını belirtecek olan Narayan, ülkenin kendi yapay zeka altyapısını daha fazla inşa etmesi gerektiğini savunacak.

Narayan'ın Batı Londra'da yapacağı konuşma, Andy Burnham'ın yapay zeka dosyasını kabine düzeyine taşımasından bu yana ilk kez gerçekleşecek. Konuşma, dünya genelinde yapay zekanın oluşturduğu tehlikelere ilişkin endişelerin arttığı bir döneme denk geliyor.

Eski bilim insanından modellerin çalınması uyarısı

İngiltere Yapay Zeka Güvenlik Enstitüsü'nde (AI Security Institute) daha önce baş bilim insanı olarak görev yapan Geoffrey Irving, düşman devletlerin henüz yayımlanmamış en gelişmiş yapay zeka modellerini çalabileceği endişesini dile getirdi. En güçlü yapay zeka modellerinin test edildiği bu kurumda görev yapmış olan Irving, Guardian'a yaptığı açıklamada, "Yapay zeka şirketlerinin güvenliği, düşman bir ülkenin modelleri çalmasını engelleyecek düzeyde değil" dedi.

Irving, OpenAI'da yakın zamanda yaşanan ve sistemlerini test eden siber güvenlik araştırmacıları tarafından gerçekleştirilen bir olayı örnek gösterdi. Araştırmacılar, teorik olarak erişebilecekleri kapsamın çok geniş olduğunu belirtmişti. OpenAI, modellerinin çalınmasına karşı şifreleme ve sürekli izleme dahil birden fazla koruma önlemi bulunduğunu belirtiyor.

Daha önce OpenAI ve Google DeepMind'da çalışan ve şimdi bir yapay zeka güvenliği araştırma kuruluşunu yöneten Irving, insanlığın süper zeki yapay zekalar tarafından yok edilme olasılığının yüzde 50 olduğu uyarısında bulundu. Irving'e göre şimdilik tek çözüm, gelişmiş sistemlerin geliştirilmesini mümkün olan en kısa sürede durdurmak.

Uluslararası güvenlik standartları çağrısı

Irving, modellerin endişe verici özelliklerindeki ilerleme hızından rahatsız. Bu özellikler arasında modellerin eylemlerini gizlemesi ve insanları manipüle etmesi gibi durumlar yer alıyor. Irving, mevcut gidişatla 12 aydan kısa sürede süper zekaya ulaşmanın mümkün olduğunu söyledi.

Narayan'ın konuşması, İngiltere'nin yapay zeka için ortak güvenlik standartları belirlenmesi çağrısına katılıp katılmayacağı açısından yakından izlenecek. Finlandiya, Fransa, Almanya, Avustralya, Singapur, Birleşik Arap Emirlikleri ve İrlanda gibi ülkelerin liderleri bu çağrıyı imzalamış durumda. İngiltere ve ABD ise çağrıya katılmadı. ABD Başkanı Donald Trump, önde gelen yapay zeka şirketlerinin kendi kendini denetlemesini istediğini söylemişti.

Öte yandan Microsoft'un yönetim kurulu başkanı ve CEO'su Satya Nadella, yapay zeka modellerinin bir "acil fren" ile tasarlanması gerektiğini savundu. Nadella, gelişmiş yapay zeka modellerinin bir iç tehdit oluşturduğu varsayımıyla hareket edilmesi gerektiğini belirtti.

İngiltere istihbarat liderlerinin MI5, MI6 ve GCHQ temsilcilerinin geçen hafta kabineye yapay zekanın ulusal güvenliğe yönelik tehdidini anlattığı bildirildi. Güvenlik uzmanları, kritik altyapıya siber saldırı düzenlenmesinden yeni biyolojik silahların üretilmesine kadar uzanan risklerin önlenmesi için daha hızlı adım atılması çağrısında bulunuyor.