Google çalışanları askeri yapay zeka anlaşmalarını protesto ediyor

Google, yapay zeka teknolojisini askeri amaçlarla kullanması nedeniyle bazı çalışanlarının tepkisiyle karşı karşıya. BBC, Google'ın yapay zeka şirketi Google DeepMind'dan yakın zamanda istifa eden veya ayrılma sürecinde olan birkaç teknoloji çalışanıyla görüştü. Çalışanlar, şirketin askeri sözleşmelerinden duydukları rahatsızlığı dile getiriyor.

Londra merkezli araştırma mühendisi Sofia Liguori, bu hafta Google DeepMind'dan istifa etti. Sözleşmesi buna izin vermemesine rağmen, endişelerini özel olarak BBC'ye anlattı. Liguori, "Şirketimin askeri operasyonlarda yapay zeka sistemlerini giderek daha fazla teşvik ettiğini görmek, Google'da çalışmaktan utanç duymama neden oluyor" dedi. Liguori, üç yıl çalıştıktan sonra Google'ın ABD ve İsrail ordularıyla artan işbirliği nedeniyle istifa ettiğini belirterek, "Bu yönelimle aynı fikirde değilim ve bu, şirketimin beyan ettiği etik değerlere sadık kaldığına olan inancımı kaybetmeme yol açtı" diye ekledi.

Google sözcüsü BBC'ye yaptığı açıklamada, "Dünya genelinde kamu sektörü kuruluşlarıyla çalışıyoruz ve bu sözleşmeleri gözden geçirme ve imzalama konusunda, kabul edilebilir kullanım politikalarımıza ve yapay zeka ilkelerimize uyum da dahil olmak üzere tutarlı bir süreç izliyoruz" dedi. Sözcü, çalışanların endişelerini güvenli bir şekilde dile getirebileceği kanalların bulunduğunu ve misillemeyi önleyecek katı işyeri politikalarının olduğunu söyledi.

Askeri sözleşmeler ve etik kaygılar

Google, bu yılın başlarında ABD ordusuyla, gizli askeri ortamlarda yapay zeka kullanımına olanak tanıyan sözleşmeler imzalayan teknoloji şirketlerinden biri oldu. ABD Savunma Bakanı Pete Hegseth, yapay zekayı silahlı kuvvetlere entegre etmeyi öncelik haline getirdi ve Trump yönetiminin "yapay zeka öncelikli bir savaş gücü" olacağını söyledi. Ancak yapay zeka teknolojisi hızla gelişirken, eleştirmenler daha fazla test, güçlü önlemler ve insan denetimi olmadan savaşta kullanılacak kadar güvenilir olup olmadığını sorguluyor.

Google'ın yapay zeka ilkeleri, yapay zekanın "insan denetimi" ile uygulanmasını ve teknolojinin "uluslararası hukuk ve insan hakları" ile uyumlu olmasını öngörüyor. Ancak BBC'nin görüştüğü eski ve mevcut çalışanlar ile uzmanlar, kritik anlarda insan denetiminin düzeyi konusunda endişeli. DeepMind'dan bu ay istifa eden yapay zeka araştırmacısı Andreas Kirsch, "Google'ın yönetişimi ve denetimi, yapay zekayı askeri ve gizli ortamlarda güvenli ve sorumlu bir şekilde konuşlandırmak veya gelecekte yapay süper zekayı güvenli bir şekilde geliştirmek için yeterli veya anlamlı değil" dedi. Kirsch, Google'ın Pentagon'un yapay zekayı nasıl kullandığını kontrol etme veya veto etme hakkına sahip görünmediğini ve konuşlandırma konusunda sınırlı görünürlüğü olduğunu sözlerine ekledi.

Artan endişeler ve tepkiler

ABD ordusu son yıllarda savaş yeteneklerini geliştirmek için yapay zeka destekli birçok teknoloji kullandı. Bunların en öne çıkanı, Pentagon'un istihbarat ve veri düzenleme platformu Maven Smart Systems. ABD savunma şirketi Palantir tarafından geliştirilen sistem, personelin hedef seçmesine ve tanımlamasına yardımcı olmak için yapay zeka kullanıyor. Palantir, birkaç önde gelen yapay zeka şirketinin teknolojisini Maven'a entegre etti ve bu bazı süreçleri önemli ölçüde hızlandırdı. Maven projesinin eski direktörü emekli Korgeneral Jack Shanahan, "felsefenin" şu olduğunu söylüyor: "Test ve değerlendirme titizliği pahasına olsa bile, yapay zeka teknolojisini mümkün olduğunca hızlı ve geniş bir şekilde konuşlandırmak."

Google'ın Pentagon ile bu yıl imzaladığı sözleşme, yapay zeka teknolojisinin gizli askeri işlerde kullanılmasına izin veriyor. Anlaşmaya göre Google'ın yapay zeka modelleri "her türlü yasal hükümet amacı" için kullanılabilecek, ancak "uygun insan denetimi ve kontrolü olmadan yerel kitlesel gözetleme veya otonom silahlar (hedef seçimi dahil) için kullanılmamalı." Benzer sözleşmeler OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve girişim şirketi Reflection tarafından da imzalandı.

Google'ın İsrail ile yaptığı anlaşmalar da tartışma yarattı. 2024'te şirket, Amazon ile birlikte İsrail hükümetine ve ordusuna yapay zeka teknolojisi ve bulut bilişim altyapısı sağlayan 1,2 milyar dolarlık (960 milyon sterlin) Project Nimbus adlı ortak sözleşme nedeniyle çalışanlar tarafından eleştirilmişti. O dönemde Google, Project Nimbus'un "silahlar veya istihbarat servisleriyle ilgili son derece hassas, gizli veya askeri iş yüklerine yönelik olmadığını" belirtmişti.

Google çalışanları, yapay zeka güvenliği ve savaşta kullanımı konusunda açıkça konuşmaktan korktuklarını, çünkü iş sözleşmelerinin şirketi kamu önünde eleştirmelerini yasakladığını BBC'ye söyledi. Sofia Liguori, "Prensip olarak hayatım boyunca Google'ı eleştirmeme izin verilmiyor" dedi, ancak "bu konuların bilinmesinin önemli olduğuna ve gerçekler hakkında konuşmanın eleştiri olmadığına inandığım için" konuşmaya karar verdi.