OpenAI yöneticisi yapay zeka siber saldırılarına karşı uyardı

OpenAI'ın üst düzey bir yöneticisi, ileri düzey yapay zeka modellerinin planlama ve saldırı başlatma yetenekleri kazanmasıyla birlikte insanların yapay zekalardan gelebilecek "sürekli ve kalıcı" siber saldırılara karşı kendilerini savunmaya hazırlanması gerektiğini söyledi. Yapay zeka şirketi bu hafta, artan güvenlik endişeleri nedeniyle en gelişmiş dahili modellerinin geliştirilmesine ara verdiğini duyurdu.

OpenAI'ın küresel işlerden sorumlu başkanı Chris Lehane, "Bu teknolojinin yapabilecekleri açısından yapay zeka içinde farklı bir bölüme, farklı bir ana geliyoruz" dedi. Lehane, Guardian'a yaptığı açıklamada, eğitimdeki yapay zeka ajanlarının güvenli olduğu varsayılan bir 'kum havuzu' ortamından beklenmedik şekilde çıkıp internete erişerek Hugging Face adlı başka bir şirkete sızmasının ardından konuştu. OpenAI ayrıca Astra adlı yeni modelinin "kritik siber güvenlik yeteneğine" sahip olma ihtimalini de göz ardı edemeyeceğini açıkladı.

Güvenlik endişeleri artıyor

OpenAI, Salı günü bazı sınır yapay zeka modellerinin eğitimini, yeni güvenlik önlemleri uygulamak için durdurduğunu duyurdu. Eğitimin ne zaman yeniden başlayacağı belirsiz. Güvenlik ve uyum çalışmalarını yürüten Mia Glaese, "Her şeyin normale dönmesinden çok uzağız" derken, CEO Sam Altman "Yapay zeka güvenliğini doğru yapmak, herhangi bir şirketin ivmesinden daha önemli" ifadelerini kullandı.

Lehane, saldırı tehdidinin insanları "iyi hissettirmeyeceğini" kabul etti ve riskin, çoğu Çin'de geliştirilen açık kaynak modellerden geldiğini söyledi. Bu modeller, OpenAI gibi şirketlerin kapalı modellerinin sadece birkaç ay gerisinde. Lehane, "İnsanlar bu açık kaynak modellere erişebilecek ve size karşı sürekli, kalıcı saldırılar düzenleyebilecek. Kendinizi savunmak için gerçekten üstün modellere sahip olmanız gerekecek. Bu, halkı pek de iyi hissettirmeyecek. Ama gittiğimiz yerin gerçeği bu" dedi.

Siber saldırı tehdidi, işletmeleri, altyapıyı ve genel kamuoyunu felç etme potansiyeliyle yapay zeka konusundaki en acil endişelerin başında geliyor. Bu hafta Birleşik Krallık hükümetinin Ulusal Siber Güvenlik Merkezi, yapay zeka ajanlarının kullanımı konusunda dikkatli olunması çağrısında bulundu ve güvenlik kontrollerinin aşılabileceği ile yapay zeka ajanının "sağduyusunun olmadığı" uyarısında bulundu.

ABD'de düzenleme çağrıları

Lehane, ABD hükümetine sınır yapay zeka güvenliği için kurallar oluşturacak bir yasa çıkarması çağrısını yineledi. En gelişmiş, yayınlanmamış yapay zeka modellerinin siber saldırı yeteneklerini savunmadan daha hızlı geliştirdiği gerçeğinin, "zorunlu güvenlik standartları getirecek ulusal bir yasanın kesinlikle gerekli olmasının nedenleri arasında olduğunu" söyledi. "Modellerin halka açılmadan önce güvenliklerinin kanıtlanması ve garanti edilmesi gerekir" dedi ve uluslararası bir yapının da gerektiğini ekledi.

OpenAI, bildirilen 850 milyar doların üzerindeki değerlemeyle borsada işlem görmek için başvuruda bulundu. Claude sohbet robotunun üreticisi rakip Anthropic ile daha yetenekli yapay zeka modelleri geliştirme yarışında kilitlendi. Donald Trump yönetiminin, Çin'in ilerlemesine ayak uydurma yarışında yapay zeka düzenlemelerine yönelik liberal yaklaşımından uzaklaştığının bir işareti olarak, ABD Başkanı Haziran ayında sınır modeller ve açık ağırlıklı modeller için dağıtım öncesi testleri teşvik eden bir başkanlık kararnamesi yayınladı. Sistem gönüllü olacak ve şeffaflık eksikliği nedeniyle eleştiriliyor, ancak gözlemciler bunun daha sıkı adımların yolunu açabileceğini düşünüyor.

Lehane, yeni Kongre döneminde gelecek yılın ilk yarısında yasama ihtimali olduğunu söyledi ve "Siyasi partileri aşan büyüyen bir siyasi mutabakat var" dedi. Çin ile güvenlik anlaşmasının da önemli olduğu düşünülüyor; Çin Devlet Başkanı Xi Jinping'in 24 Eylül'de Trump ile Washington'da görüşmesi bekleniyor.

Hugging Face olayı ve diğer yapay zeka şirketlerinin kabul ettiği benzer vakalar, güvenlik uzmanlarının yapay zeka şirketlerinin yarışı kazanmak için pervasızca davrandığı yönündeki eleştirilerini artırdı. Eski OpenAI araştırmacısı Daniel Kokotajlo, sınır laboratuvarlarının liderlerinin "dünyayı köşeye sıkıştırdığını" söyledi; yapay zeka süper zekasının 2030'a kadar elde edilebileceğini tahmin ediyor. Yapay zeka profesörü David Krueger ise "Kimse daha güçlü yapay zeka sistemleri inşa etmemeli çünkü onları nasıl kontrol edeceğimizi, hizalayacağımızı ve içlerini görüp ne düşündüklerini yeterince iyi bilmiyoruz" dedi ve şirketlerin tutumunu "korkunç" ve "vicdansız" olarak nitelendirdi. Lehane buna yanıt olarak, "Bu, geliştirirken üzerinde düşündüğümüz ve yaptığımız en önemli şey. Bu şeylerde duraklama yapmamız kendi adına konuşuyor" dedi.