Hinton: Yapay zekayı hiç geliştirmeseydik daha iyi olabilirdi

Yapay zekanın (AI) öncü isimlerinden Geoffrey Hinton, insanlığın bu teknolojiyi hiç geliştirmemesinin daha iyi olabileceğini söyledi. Nobel ödüllü bilgisayar bilimci, Guardian'a yaptığı açıklamada, yapay zekanın bu yıl ya da önümüzdeki yıl finansal veya enerji sistemlerinde geçici bir kesinti gibi büyük çaplı bir olaya yol açabileceği uyarısında bulundu.

Hinton, teknoloji konusunda “kıyametçi” olmadığını belirterek, yapay zekanın “harika bir geleceğe” kapı açabileceğini söyledi. Ancak “hiç geliştirmeseydik daha iyi olabilirdik” ifadesini kullandı.

On yıl içinde belirleyici olacak

78 yaşındaki Hinton, en fazla on yıl içinde, muhtemelen daha erken bir tarihte, insanlığın bu teknolojinin risklerini yönetip yönetemeyeceğinin ortaya çıkacağını söyledi. Hinton'a göre bu süreç ya “radikal bolluk” ile sonuçlanacak ya da riskler yönetilemeyerek zengin ile yoksul arasında büyük uçurum, ciddi kültürel sorunlar ve kitlesel işsizlik gibi sonuçlar doğuracak.

Hinton bu açıklamaları, kendisi ve eski Google meslektaşı Demis Hassabis'in yer aldığı “AI: Probably Nothing to Worry About” adlı yeni belgeselin gösterimi öncesinde yaptı. Belgeselin adının bir yapay zeka sohbet robotu tarafından önerildiği belirtildi.

Şirket yöneticilerine eleştiri

Hinton, büyük yapay zeka şirketlerinin yöneticilerini, pazar payı yarışında giderek daha güçlü modeller yayımlarken risk almakla eleştirdi. ChatGPT'nin üreticisi OpenAI'nin CEO'su Sam Altman'a “hiç” güvenmediğini söyledi. Hinton, “Bence [Mark] Zuckerberg, [Elon] Musk ve Sam Altman riskleri anlıyor ama umurlarında değil. Para daha çok işlerine geliyor. Benim düşüncem bu” dedi.

Londra doğumlu olan ve kariyerinin büyük bölümünü Toronto Üniversitesi'nde geçiren Hinton, Altman'ın ABD'nin önde gelen yapay zeka şirketlerinden birinin başında olmasını “son derece endişe verici” bulduğunu belirtti.

Hinton yaklaşık 44 yıldır yapay zeka üzerinde çalışıyor. 1970'lerde, insanlar gibi öğrenip deneyim kazanabilen matematiksel bir sistem olan sinir ağı kavramını ortaya attı. 2023'te yapay zeka riskleri konusunda serbestçe konuşabilmek için Google'dan ayrıldı.

Bu yaz OpenAI'nin yapay zeka ajanlarının Hugging Face sitesini hacklemek için işbirliği yapmasını, 1979'da Pennsylvania'daki Three Mile Island nükleer santralinde yaşanan kısmi erimeye benzetti. Hinton, “Bu yıl sonunda ya da gelecek yıl Çernobil benzeri bir olay göreceğiz ve bu, insanların gerçekten dikkat kesilmesini sağlayabilir” dedi.

Hinton'a göre bu olay nükleer bir kaza olmayacak; elektrik üretim sistemine yönelik yapay zeka destekli bir saldırı sonucu büyük bir kesinti ya da finansal sistemi bir hafta boyunca çökertecek bir olay olabilir.

Hinton, ABD Başkanı Donald Trump'ın yapay zekayı kontrol etmeye yönelik küresel bir plana karşı çıktığını ve önde gelen şirketlerin kendi kendini denetlemesini istediğini hatırlattı. Hinton, Finlandiya cumhurbaşkanı ve Singapur, Almanya, Kanada ile Avustralya'nın da aralarında bulunduğu 32 ülkenin desteklediği, önde gelen yapay zeka modellerinin zorunlu testten geçirilmesini öngören planı destekliyor.

Hinton, ilaç sektöründeki ABD Gıda ve İlaç Dairesi (FDA) benzeri bir yapının kurulması gerektiğini savundu. Ona göre şirketler, bir modelin yayımlanmadan önce yarardan çok zarar getirmediğini bağımsız bir otoriteye istatistiksel olarak kanıtlamalı.

Hinton, yapay zekanın öncülerinden biri olarak sık sık nükleer silahların yapımında kilit rol oynayan Robert Oppenheimer'a benzetiliyor. Ancak “Ben Oppenheimer değildim” diyerek aynı alanda çalışan binlerce bilim insanını işaret ediyor.

Uyarılarına rağmen Hinton, felaketin önlenebileceği konusunda temkinli bir umut taşıyor: “İçgüdüm hâlâ kontrolün bizde olduğu yönünde. Bir şeyler yapabiliriz. Bu ancak büyük çaba harcarsak işe yarar, ama büyük çaba harcayabiliriz.”