İngiltere Merkez Bankası Başkanı: Yapay zekada önce test, sonra düzenleme

İngiltere Merkez Bankası (Bank of England) Başkanı Andrew Bailey, yapay zekânın düzenlenmesinin "doğru başlangıç noktası olmadığını" söyledi. Bailey, bunun yerine öncelikle riskleri ve zafiyetleri ortaya çıkaracak titiz testler yapılması ve riski sınırlayacak koruma mekanizmalarının kurulması gerektiğini belirtti.

Bailey, bu görüşlerini Substack platformunda yayımlanan ilk makalesinde dile getirdi. Yapay zekâ kaynaklı risklerin "gerçek ve giderek daha önemli" hale geldiğini ifade etti.

Yapay zekâ geliştirmenin durdurulmasına ya da yasaklanmasına karşı olduğunu vurgulayan Bailey, "aksine, faydalar çok büyük" dedi. Ancak teknolojinin işleyeceği sınırların belirlenmesi ve müdahale edilebilmesi için bir sistem kurulması gerektiğini ekledi.

Yapay zekâ güvenliği tartışması yoğunlaştı

Yapay zekânın hızlı gelişiminin olası riskleri ve insanlık açısından anlamı son haftalarda daha yoğun tartışılıyor. Anthropic ve OpenAI gibi önde gelen yapay zekâ şirketlerinin yöneticileri, teknolojinin gelişiminin yavaşlatılması ve risklerin uluslararası düzeyde eşgüdümlü biçimde değerlendirilerek koruma önlemlerinin devreye alınması çağrısı yaptı. OpenAI, güvenlik endişeleri nedeniyle en yeni modelini yayımlamama kararı aldığını duyurdu.

Yavaşlama fikrine karşı çıkanlar arasında ABD Başkanı Donald Trump da yer alıyor. Trump, ABD'nin yapay zekâ yarışında Çin'in önünde olduğunu belirterek bu konumunu korumak istediğini söylemişti.

Salı günü OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google yöneticileriyle bir toplantı yapan Trump, yöneticilerin yapay zekânın olası risklerine karşı "ahlaki açıdan bağlayıcı" bir belge imzaladığını ve bunun bir "koruma biçimi" olacağını ifade etti. Anlaşmaya göre şirketler kendi teknolojilerinin güvenliğinden sorumlu olacak.

Bailey: İlerleme hızlanmalı ama alçakgönüllülükle

Bailey, İngiltere'de yapay zekâ testleri konusunda "önemli çalışmalar" yürütüldüğünü, ülkede kurulan Yapay Zekâ Güvenlik Enstitüsü'nün (AI Security Institute) bunun bir parçasını oluşturması gerektiğini söyledi. Bailey, "ancak ilerleme hızı artmalı" dedi ve ekledi: "Bir ölçüde alçakgönüllülükle ilerlemeliyiz."

Test süreçlerinde başarısızlıklar yaşanacağını ve modellerin beklenmedik davranışlar sergileyebileceğini belirten Bailey, bunun testlerin başarısız olduğunun değil, neden gerekli olduğunun kanıtı olduğunu ifade etti.

Bailey, testlerin gelecekteki düzenlemelerin alternatifi olarak görülmemesi gerektiğini, zamanla daha resmi bir düzenleyici çerçevenin ortaya çıkabileceğini söyledi. Ancak kendi görüşüne göre düzenlemenin başlangıç noktası olmadığını yineledi.

Bailey özellikle "sınır yapay zekâ" olarak adlandırılan, kendi kendine öğrenen ileri sistemlere dikkat çekti. Etkili bir müdahale yöntemi kurulmazsa bu sistemlerin "modelin giderek kendini yönettiği kapalı bir döngüye" dönüşme riski taşıdığını belirtti.