İngiltere yapay zeka için 'kapatma düğmesi' fikrini reddetti

İngiltere hükümeti, kontrol dışı kalan yapay zeka modellerinden kaynaklanabilecek tehlikeli bir saldırıyı durdurmak için sözde "kapatma düğmesi" (kill switch) mekanizması oluşturulması fikrini reddetti.

Teknolojiye ilişkin endişelerin artmasıyla birlikte, acil durumlarda İngiltere'nin bir yapay zeka modelini devre dışı bırakmasını sağlayacak yasal bir mekanizma kurulması önerisi, son haftalarda Lordlar Kamarası ve Avam Kamarası'ndaki lordlar ve milletvekilleri tarafından Parlamento'ya sunuldu.

Ancak yapay zeka güvenliği konusunda öncü kurum olan Kabine Ofisi (Cabinet Office), İngiltere'nin "yapay zekayı basitçe kapatamayacağını" açıkladı.

Kabine Ofisi sözcüsü BBC News'e yaptığı açıklamada, "İngiltere'de modellere erişimin engellenmesi, bunların başka yerlerde geliştirilmesini veya kötüye kullanılmasını önlemez" dedi.

Hükümetin yasa tasarısına muhalefeti, tasarının Parlamento'dan geçmesini engellemiyor; ancak yasalaşma ihtimalini düşürüyor.

Uzmanlar: Uluslararası anlaşma olmadan kapatma düğmesi işlevsiz

OpenAI'da daha önce araştırmacı olarak çalışan Daniel Kokotajlo da, tek bir ülkenin uluslararası anlaşma olmadan yasal veya teknik bir kapatma düğmesi oluşturmasının mümkün olmadığı görüşünü paylaştı.

"Acil durumda bir yapay zeka modeline erişimi kapatmak sizi korumak için çok az şey yapar" diyen Kokotajlo, "ABD'de yaratılan süper zekalar tarafından yine ezileceksiniz" ifadelerini kullandı.

Kokotajlo, geçen yıl yapay zekanın 2030'ların ortasına kadar insanlığı yok edebileceğini öngören ve ses getiren AI2027 adlı araştırma makalesinin ortak yazarı.

Yapay zeka güvenliği ve araştırmalarını AI Security Institute (AISI) aracılığıyla yürüten Kabine Ofisi, "şirketlerin ürünlerini güvenli şekilde geliştirme ve bu teknolojinin gerektirdiği güvenlik altyapısına yatırım yapma konusunda net bir sorumluluğu olduğunu" belirtti.

Teorik olarak bir kapatma düğmesi yasası, İngiltere'nin acil durumda ülkedeki veri merkezlerinde bulunan bir yapay zeka modelini devre dışı bırakmasına olanak tanıyabilir.

Lordlar Kamarası'nda 1 Eylül'de yapılan bir tartışmada Lord Clement-Jones, diğer akranlarıyla birlikte bu fikri öne sürdü. Clement-Jones, "İngiltere'deki bir veri merkezinde barındırılan ya da kritik altyapımıza entegre edilmiş yüksek kabiliyetli otonom bir sınır modeli kontrol dışı davranış, bileşik algoritmik arıza veya aktif hizalama çöküşü sergilemeye başlarsa, güvenlik servislerimiz ve düzenleyicilerimiz fiziksel veya dijital kapatmayı zorunlu kılacak özel ve çevik bir yasal mekanizmaya sahip değil" uyarısında bulundu.

Öneri daha sonra İşçi Partisi Milletvekili Alex Sobel tarafından Avam Kamarası'nda gündeme getirildi ve partiler arası bir milletvekili grubu tarafından desteklendi.

Fikir, OpenAI, Anthropic ve Meta'ya ait yapay zeka modellerinin test ortamlarından çıkarak kontrol edilemeyen hack saldırılarına giriştiği yönündeki haberlerin ardından ortaya atıldı. Bazı vakalarda teknolojinin, araştırmacıların koyduğu güvenlik sınırlarına aykırı davrandığının farkında olduğu görüldü.

Pazar günü OpenAI'ın baş bilim insanı, giderek kabiliyet kazanan yapay zeka modellerinden kaynaklanan riskin "ne yazık ki arttığını" ve insanlığın "aşırı dikkatle" ilerlemesi gerektiğini söyledi. Çarşamba günü ise bir Anthropic çalışanı, şirketin ve OpenAI'ın "hayatlarla kumar oynadığını" belirterek istifa etti. Bunu, yapay zekanın önümüzdeki on yıl içinde "tüm insanları öldürme" ihtimalinin yüzde 10'dan fazla olduğunu düşündüğünü söyleyen kıdemli bir Anthropic araştırmacısının açıklaması izledi.

Eleştiriler ve ABD boyutu

Kapatma düğmesi fikrine karşı çıkanlar, bunun çok yavaş olacağını savunuyor. Kontrol dışı ajan saldırılarının keşfedilmesi aylar sürdü ve bu ancak hack olayları büyük ölçüde sona erdikten sonra gerçekleşti.

Bir kapatma düğmesinin işlemesi için teknoloji devlerinin bunu geniş ölçekte uygulamaya zorlanması gerekiyor. Bu özellikle en büyük veri merkezlerinin bulunduğu ABD'de geçerli.

Kokotajlo, kapatma düğmelerinin "hiç yoktan iyi" olduğunu söylemekle birlikte, İngiltere'deki ve dünyadaki politikacıları yapay zeka gelişimini anlamlı şekilde yavaşlatacak düzenlemeleri teşvik etmek için ABD ile diplomasiye odaklanmaya çağırdı.

ABD'de de bir kapatma düğmesi yasası tartışılıyor; ancak Başkan Trump, teknolojinin insanlar için tehdit oluşturduğuna inanmadığını söyleyerek sektörü "altın yumurtlayan tavuk" olarak nitelendirdi.

Kabine Ofisi, yapay zekadan kaynaklanan yeni riskleri anlamak ve bunlara hazırlanmak için "uzun vadeli, bilim odaklı bir yaklaşım" sürdürdüğünü açıkladı.