Anthropic, yapay zekanın biyolojik silahlarda kullanımını engellediğini açıkladı

Yapay zeka şirketi Anthropic, Claude adlı yapay zeka modelinin biyolojik ve konvansiyonel silah geliştirmeyi destekleyebilecek "kötü niyetli" kullanım girişimlerini tespit ederek durdurduğunu açıkladı. Şirketin yayımladığı son tehdit istihbaratı raporuna göre Claude, Rusya bağlantılı bir siber casusluk kampanyasında ve İran'a bağlı bir propaganda kuruluşu tarafından da kullanıldı.

Son sekiz ay içinde tespit edilen endişe verici vakalar; sahte flört uygulamaları ve otel Wi-Fi dolandırıcılığından muhalifleri tespit etmeye yönelik gözetleme sistemlerine kadar çeşitlilik gösteriyor. Rapor, sahte hesaplar, casus yazılım satıcıları, devlet destekli gruplar ve siyasi motivasyonlu kişilerin teknolojiyi kötüye kullandığı durumları sıralıyor.

Anthropic'e göre, Claude Haiku, Sonnet ve Opus modellerinin bu şekilde kullanımı Aralık 2025 ile Ağustos 2026 arasında engellendi. Şirket, söz konusu kötüye kullanımların hiçbirinde Claude Fable veya güçlü Mythos sınıfı modellerin yer almadığını belirtti.

Biyolojik silah riski vurgusu

Rapor, yapay zekanın biyolojik silah geliştirmeyi destekleyebilecek şekilde kullanıldığı beş vaka incelemesine dikkat çekiyor. Anthropic, biyolojik kötüye kullanımı "öncü yapay zeka modellerinin en ciddi risklerinden biri" olarak tanımladı. Şirkete göre doğru güvenlik önlemleri olmadan bu tür yetenekler "feci sonuçlar" doğurabilir.

Anthropic, "Bir biyolojik silah geliştirmek için kullanılabilecek bilgi, örneğin bir aşı veya hastalık tedavisi geliştirmek için de kullanılabilir" açıklamasını yaptı. Şirketin tehdit istihbaratı birimi başkanı Jacob Klein, New York Times'a verdiği demeçte bunun "son derece incelikli bir durum" olduğunu söyledi. Klein, "Kimsenin çizgi romanlardaki gibi 'Herkesi öldürecek bir biyolojik silah yapmak istiyorum' dediğini görmüyorsunuz" dedi.

Rapor ayrıca Claude'un ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmat ile bunları yöneten hedefleme ve kontrol sistemleri gibi konvansiyonel silahlara yönelik yazılım geliştirmek için kullanıldığı altı vakayı da not ediyor.

Siber suçlular ve devlet destekli gruplar

Rapor, siber suçluların ve devlet destekli hacker gruplarının teknolojiyi operasyonlarında giderek daha fazla kullandığını gösteriyor. ShinyHunters adlı hacker grubu ve Çin merkezli laboratuvarlar raporda adı geçenler arasında. Rapora göre, çalışmaları Rusya merkezli Midnight Blizzard ile örtüşen bir hacker grubu, kötü amaçlı yazılımının güvenlik savunmaları tarafından işaretlendiğini otomatik olarak tespit eden ve tespit edilmekten kurtulana kadar kodu yeniden yazan bir sistem kurmak için yapay zekayı kullandı.

Kaliforniya merkezli şirket, bulgularını "bu faaliyetleri daha iyi önlemek, tespit etmek ve durdurmak" için süreçlerine dahil ettiğini belirtti. Anthropic, uygun görülen durumlarda istihbaratı yetkililer ve sektör ortaklarıyla paylaştığını da ekledi.

Şirketin bu yılki ilk raporu, Anthropic'teki üst düzey bir güvenlik araştırmacısının yapay zekanın o kadar hızlı ilerlediği ve önümüzdeki on yıl içinde "tüm insanları öldürme" olasılığının yüzde 10'dan fazla olduğunu söylemesinin ardından geldi.