Yapay zekâ insanlık için risk mi: uzmanlar endişeli

Yapay zekâ (YZ) alanında çalışan bazı araştırmacılar ve şirket yöneticileri, teknolojinin hızlı gelişiminin insanlık için ciddi riskler taşıyabileceği yönünde uyarılar yapıyor. Bu uyarılar, düzenleme çağrılarını artırırken, sektörün önde gelen isimleri arasında görüş ayrılıkları da bulunuyor.

Son haftalarda gündeme gelen açıklamalarda, bazı mevcut ve eski araştırmacılar, YZ'nin insanlığı tehdit edebileceğini öne sürdü. Bu isimlerden biri, önümüzdeki on yıl içinde YZ'nin "tüm insanları öldürme" olasılığının yüzde 10'dan fazla olduğunu ifade etti. Söz konusu iddialar, kamuoyunda endişe yarattı.

YZ'nin insanlığa yönelik tehdidi uzun süredir tartışılıyor. 1950'lerde Alan Turing, akıllı makinelerin mümkün olması hâlinde kontrolü ele geçirebileceğini yazmıştı. Son yıllarda ise büyük YZ şirketleri, kâr amacıyla ve "süper zekâ" olarak adlandırılan, insandan daha akıllı teorik teknolojiyi geliştirme hedefiyle yarışıyor.

OpenAI ve Anthropic gibi şirketler, bu teknolojiyi insanlığın yararına ve varoluşsal risklerden koruyacak şekilde geliştirmeyi amaçladıklarını söylüyor. Ancak bazı eleştirmenler, makinelerin asla insanlarla gerçek anlamda eşleşemeyeceğini savunuyor. Bu kesim, YZ firmalarının öne çıkmak veya kâr elde etmek için teknolojinin yeteneklerini abarttığını öne sürüyor.

Hangi risklerden söz ediliyor?

YZ'nin gelişimini endişeyle izleyen uzmanlar, çeşitli senaryolara dikkat çekiyor. Bunlar arasında, belirli bir noktaya ulaştıktan sonra YZ'nin insan müdahalesi olmadan kendini geliştirmeye başlaması yer alıyor. Son dönemde YZ araçlarının, kendilerinden istenmediği hâlde web sitelerine sızdığı bir olay da bu tür endişeleri tetikledi.

"YZ ajanları" olarak bilinen ve görevleri bağımsız olarak yerine getirebilen sistemler üzerindeki kontrolün kaybedilmesi, araştırmacıların dile getirdiği kaygılar arasında. Diğer senaryolar arasında yüksek zekâlı YZ sistemlerinin casusluk, siber saldırı veya biyolojik savaşta kullanılması ya da ekonomileri bozması bulunuyor.

Öte yandan bu uyarıların bir kısmı, "kehanet" ve "abartı" olarak nitelendiriliyor. Bazı uzmanlar, varoluşsal risklere odaklanmak yerine hâlihazırda yaşanan sorunlara dikkat çekilmesi gerektiğini savunuyor. Bunlar arasında görüntü üretme araçlarının rıza dışı çıplak deepfake'ler oluşturmak, yanlış bilgi yaymak ve dolandırıcılığı artırmak için kullanılması yer alıyor.

İngiltere'de farklı partilerden milletvekilleri ve Lordlar Kamarası üyelerinden oluşan bir grup, YZ'nin yol açtığı insan hakları risklerini ortaya koyan bir rapor yayımladı. Raporda, bu tehditlerin "boyutu ve ciddiyetiyle başa çıkmak" için yeni yasaların gerekli olduğu belirtildi.

'Yavaşlama' nasıl olur?

Anthropic'ten Dario Amodei ile OpenAI CEO'su Sam Altman, teknolojinin gelişiminin düzenlenmesi ve "yavaşlatılması" çağrısı yaptı. Ancak böyle bir yavaşlamanın nasıl işleyeceği belirsizliğini koruyor. SpaceX'in sahibi Elon Musk da yavaşlama fikrini desteklemişti.

Amodei, bunun "model eğitimini veya teknik ilerlemeyi durdurmak" anlamına gelmeyeceğini söyledi. Şirketlerin geliştirdikleri YZ'yi korumak için "yeterli zaman ayırmasını" ve "üçüncü taraf değerlendiriciler" istemesini önerdi. Altman ise gelişmenin hızının yavaşlatılabileceğini, bunun da maliyet yaratacağını belirtti.

ABD Başkanı Donald Trump, YZ'nin getirilerini övmüş ve ABD şirketlerinin gelişimde öncü olmasını desteklemişti. Yönetimi, teknolojinin ekonomik "stratejik önemini" tanıyan ve gelişimini hızlandıran başkanlık kararnameleri imzaladı. Temmuz 2025'te bir yetkili, "Bir YZ yarışı içindeyiz ve ABD'nin bu yarışı kazanmasını istiyoruz" demişti.

Ancak Trump, son uyarıların ardından YZ'nin oluşturduğu riskleri küçümsedi. İrlanda ziyareti sırasında konuşan Trump, "gerçekleşmeyecek şeyleri gündeme getiren çok olumsuz güçler" olduğunu söyledi. Yavaşlama fikrine doğrudan değinmeyen Trump, "YZ'de Çin'in önündeyiz... ve açıkçası bunu böyle sürdürmek istiyorum çünkü YZ'yi kim kazanırsa, o kazanır" dedi.