Yapay zekanın en büyük felaketleri habersiz gelebilir

Yapay zekanın (YZ) yol açabileceği en büyük felaketlerin ani ve dramatik bir “makine isyanı” ile değil, sessiz ve kademeli gelişmelerle ortaya çıkabileceği belirtiliyor. The Guardian’da yayımlanan mektuplarda, küresel ölçekte YZ yönetişimi için uluslararası iş birliği çağrısı yapılıyor.

Chesterfield, Derbyshire’dan Dr. Simon Nieder, Timothy Garton Ash’in “Yapay zekanın Hiroşima ölçeğinde bir felaketi insanlığı korumaya yetecek mi?” sorusuna yanıt olarak, “YZ Hiroşima” benzetmesinin yanıltıcı olabileceğini söylüyor. Nieder, Hiroşima’nın teknolojinin kontrolden çıkması değil, insanların bilinçli kararlarıyla gerçekleştiğini; YZ’nin ise insan kontrolü olmadan davranabileceğini ve en ciddi zararların “YZ yönetimi ele geçirdi” şeklinde dramatik bir an olmadan da yaşanabileceğini ifade ediyor.

Nieder’a göre YZ, bir patojen tasarlayabilir, kritik altyapılarda açıklar bulabilir veya silah sistemlerini geliştirebilir; bu sırada kararları hâlâ insanlar veriyor olabilir. Zararlar, binlerce sıradan kararın birikmesiyle görünmez şekilde artabilir. Tehlikenin fark edildiği anda önemli kararlar çoktan alınmış olabilir. Bu nedenle Nieder, uluslararası anlaşmanın süper zekâ veya insanlığın yok olma ihtimali üzerine değil, YZ’nin kendi başına açmaması gereken kapılar (silah sistemleri, kritik altyapı, biyolojik sentez) üzerine kurulması gerektiğini savunuyor. Hükümetlerin asgari güvenlik önlemleri, insan onayı zorunluluğu ve başarısızlıkların uluslararası paylaşımı gibi adımlar atması gerektiğini belirtiyor.

YZ'nin tarihi ve Serbelloni tartışması

Cambridge’deki Emmanuel College’dan Dr. Anthony Harris, Prof. Jonathan Michie’nin mektubuna atıfla, YZ’nin sosyal tehlikelerinin 1972’de Serbelloni grubu tarafından tartışıldığını hatırlatıyor. Harris, YZ’nin köklerinin 1957’deki Frank Rosenblatt’in algılayıcısına, 1956’daki Dartmouth çalıştayına ve hatta Alan Turing’e kadar uzandığını, ancak yeni olanın donanım ve yazılım altyapısındaki hızlı ilerleme olduğunu ifade ediyor.

Harris, 1973 tarihli Lighthill raporunun İngiltere’de bir “YZ kışına” yol açtığını ve alanın ağırlık merkezinin Atlantik’in ötesine kaydığını hatırlatıyor. Turing ile Bletchley Park’ta çalışan Donald Michie’nin kesintilere karşı çıktığını, ancak başarılı olamadığını aktarıyor. Harris, bilim ve beşeri bilimlerin birlikte yer aldığı bir “Serbelloni tartışması”nın geri getirilmesini öneriyor.

Uluslararası YZ anlaşması çağrısı

Georgia’dan David Kyler ise Miles Brundage’ın “OpenAI’da çalıştım, işte ihtiyacımız olan güvenlik önlemleri” başlıklı makalesinde, küresel bir YZ anlaşması için geniş siyasi destek arayan uluslararası bir çabadan bahsedilmediğini belirtiyor. Kyler, geçen ay Cenevre’de düzenlenen ilk BM YZ Yönetişimi Küresel Diyaloğu’nda Genel Sekreter’in, YZ’nin silahlarda ve gözetlemede yaygınlaşmasına karşı insan kontrolü çağrısı yaptığını hatırlatıyor.

Kyler’e göre parçalı bir yaklaşım, zamanında ve etkili YZ kontrolleri uygulamayı zorlaştıracak. YZ, kurumsal gündemler, ulusal savunma ve ekonomik hedefler ile enerji yoğun veri merkezlerinin birbiriyle bağlantılı sistemik ilişkileri, bağımsız adımlarla çözülemez. Ayrıca veri merkezlerine yönelik artan iki partili muhalefetin, YZ üzerindeki siyasi dikkati dağıttığını belirtiyor. Kyler, iklim değişikliği gibi YZ tehditlerinin de küresel olduğunu ve uluslararası bir yaklaşımın şart olduğunu ifade ediyor.

Mektuplar, YZ’nin ve veri merkezlerinin zararlarını önlemek için uluslararası düzeyde koordineli ve kapsamlı bir stratejiye duyulan ihtiyacı vurguluyor.