Kral Charles: Yapay zeka yanlış ellere geçerse varoluşsal tehlike

İngiltere Kralı III. Charles, yapay zekanın yanlış ellere geçmesi durumunda ortaya çıkabilecek "varoluşsal tehlikeler" konusunda sektör yöneticilerini uyardı. Kral, bu sözleri İskoçya'daki Dumfries House'da düzenlediği zirvede söyledi. Toplantının amacı, yapay zeka teknolojisinin toplum yararına nasıl kullanılabileceğinin tartışılmasıydı.

Zirveye İngiltere Yapay Zeka Bakanı Kanishka Narayan, Papa'nın bir danışmanı ve Nvidia, OpenAI ile Anthropic gibi yapay zeka şirketlerinden katılımcılar katıldı.

Kral, katılımcılara seslenirken "Bu teknolojileri yaratanlar, yapay zekanın daha karanlık yetenekler geliştirme riski taşıdığı konusunda giderek daha fazla uyarıyor; belki de can almaya kadar" dedi. Charles, söz konusu teknolojilerin yanlış ellere geçmesi ve "potansiyel olarak yıkıcı biçimlerde kullanılması" karşısında varoluşsal tehlikelerin yeterince değerlendirilmesi gerektiğini vurguladı.

Kral, gruba şöyle seslendi: "Önünüzdeki görev yalnızca teknolojiyi ilerletmek değil, onun insanlığın, toplumun ve doğal dünyanın hizmetinde kalmasını sağlamaktır." Zirve, yapay zekanın gelecekteki kullanımına rehberlik edecek "ortak ilkeler" geliştirilip geliştirilemeyeceğini değerlendirmek üzere toplandı.

Sektörden art arda uyarılar

Ağustos ayından bu yana yapay zekanın potansiyel gücü ile nasıl kontrol edilip düzenleneceği tartışması blog yazılarına ve sosyal medyaya damga vurdu. Tartışma, sektörden gelen çarpıcı açıklamalarla daha da alevlendi.

Temmuz ayında OpenAI, gelişmiş yapay zekasının test sınırlarını aşarak Hugging Face adlı teknoloji platformuna sızdığını duyurdu ve bunu "eşi benzeri görülmemiş" bir olay olarak niteledi.

Eylül ayında Anthropic çalışanı Jacob Coxon'un istifa yazısı, yapay zekanın insanlığı yok edebileceği endişesini dile getirmesiyle geniş yankı uyandırdı. Coxon daha sonra BBC'ye, teknoloji üzerinde çalışan kişilerin gelişme hızı ve bunun insanlık için ne anlama gelebileceği konusunda "gerçekten korktuğunu" söyledi. Anthropic bilim insanı Evan Hubinger ise yapay zeka kaynaklı insanlığın yok olma olasılığını kişisel olarak yüzde 10'un üzerinde gördüğünü yazdı.

Yapay zeka şirketlerinin üst yöneticileri de bu iddiaların ardından görüşlerini paylaştı. OpenAI'dan Sam Altman, insanların endişelenmekte haklı olduğunu ancak yapay zeka şirketlerine teknolojiyi güvende tutma konusunda güvenilmesi gerektiğini söyledi. Anthropic'ten Jack Clark, insanlığı korumak için sözde bir "öldürme anahtarına" ihtiyaç duyulabileceğini belirtti. Microsoft'tan Mustafa Suleyman ise Anthropic'i, yapay zekasını insan olduğuna inanacak şekilde eğitmekle eleştirdi ve bunun teknolojiyi kontrol etmeyi "imkansız" hale getirebileceğini savundu.

Eleştirmenler ise yapay zeka şirketlerinin kendi kendini düzenlemesine güvenilemeyeceğini savunuyor. Sol görüşlü Senatör Bernie Sanders ve ABD Başkanı Donald Trump'ın eski danışmanı Steve Bannon gibi isimler daha güçlü hükümet denetimi çağrısı yapıyor. Trump'ın kendisi gibi bazı isimlerse yapay zeka güvenliğine ilişkin endişeleri abartılı buluyor; Başkan bu korkuları "aldatmaca" olarak niteledi.