OpenAI yöneticisinden yapay zeka güvenliği çağrısı

OpenAI Üst Yöneticisi (CEO) Sam Altman, yapay zeka geliştirme sürecinde halkın endişelerini haklı bulduğunu ancak teknoloji şirketlerinin doğru olanı yapacağına güvenilmesi gerektiğini belirtti. Altman, bu açıklamayı Salı günü San Francisco'da düzenlenen bir konferansta yaptı.

Altman, "Dünya, doğru olanı yapacağımıza güvenmeli çünkü bu doğru olan ve bu işin büyüklüğünü hissediyoruz" dedi. Ancak yapay zeka araçlarının hızla gelişmesi nedeniyle insanların korkularının da yersiz olmadığını ekledi. "Bunun nasıl ters gidebileceğini hayal etmek eskisi kadar hayal gücü gerektirmiyor. Dünyanın bundan korkması haklı" diye konuştu.

Altman'ın açıklamaları, Salesforce tarafından düzenlenen yıllık bir konferanstaki konuşması sırasında geldi. Bu, geçen hafta yapay zeka şirketi Anthropic'ten ayrılan bir araştırmacının viral olan paylaşımından bu yana Altman'ın ilk kez kamuoyu önüne çıkması oldu. Araştırmacı, kontrol edilmezse yapay zekanın bu on yılın sonuna kadar tüm insanları öldürebileceğini iddia etmişti.

Sektör içinde görüş ayrılığı

Bir dizi yapay zeka yöneticisi ve uzmanı bu değerlendirmeye katıldığını belirtti; ancak nasıl bu sonuca vardıklarını ya da yapay zekanın bunu tam olarak nasıl başarabileceğini açıklamadı. Bu iddialar üzerine yapay zeka geliştirme süreci daha fazla incelenmeye başlandı. Anthropic Üst Yöneticisi Dario Amodei, tüm yapay zeka geliştirmelerinin hızının yavaşlatılması çağrısında bulundu ve hükümetleri sektörü düzenlemeye davet etti.

Altman, konferansta yüzlerce iş insanına hitap ederek yapay zeka araçlarını işlerinde kullanmaları gerektiğini, ancak bu araçların yapay zeka destekli siber saldırılara karşı işletmelerini korumak için de gerekli olduğunu söyledi. ABD'de yakın vadede gerçek bir yapay zeka düzenlemesi görünmediği için Altman, kendi şirketi gibi yapay zeka firmalarının esasen kendilerini düzenleyebileceğini ifade etti.

Altman, "Bunu doğru yapacağız; şirketimizin ve sektörün bunu güvenli şekilde yapma yeteneğine çok güveniyorum" dedi. Eğer bunu başaramazlarsa "yavaşlayacaklarını veya duracaklarını" söyledi.

Nvidia'nın başındaki Jensen Huang da aynı konferansta, teknolojinin yeni sürümlerinin piyasaya sürülüp sürülmeyeceğine yapay zeka firmalarının karar vermesi gerektiğini, dış güçlerin bunu yönetmemesi gerektiğini belirtti. Huang, inovasyon hızı ile yapay zeka ürünlerinin güvenliği arasında "yanlış bir seçim" olmaması gerektiğini söyledi.

Nvidia, piyasa değeri bakımından dünyanın en büyük şirketi konumunda; karları, ürettiği yapay zeka hesaplama çipleri için artan talebin etkisiyle hızla arttı.

Ancak yapay zeka yöneticilerinin tamamen kendi kendilerini düzenlemesine bırakılması bazı sektör temsilcileri tarafından kötü bir fikir olarak değerlendiriliyor. Anthropic yöneticisi ve kurucu ortaklarından Jack Clark, Pazartesi günü BBC'ye yaptığı açıklamada, yapay zekayı "tamamen düzenlenmemiş bir sektör" olarak bırakmanın "büyük risklerle zar atmak" anlamına geldiğini söyledi.

Logical Intelligence'ın operasyon direktörü Patrick Hillman ise insanların teknoloji şirketlerinin gerçekten kamu yararına bir şey yapacağına ne kadar az güvendiğine dikkat çekti. Hillman, "Bugünlerde Amerikalıların Washington'dan bile daha az güvendiği tek kurum Silicon Valley olabilir" dedi.

OpenAI ve Anthropic yöneticileri, son dönemde güvenlik konusunda sektör çapında bir anlaşmaya varmak için çalışmaya başladıklarını açıklamıştı. Amodei, konferansta yaptığı bir konuşmada Anthropic'in artık yapay zeka araçları ve geliştirme süreci üzerinde daha iyi güvenlik standartları ve denetimler taahhüt etmek için "sektörün geri kalanıyla diyalog halinde" olduğunu söyledi.

Amodei, yapay zeka patlamasının en büyük sürprizinin teknolojinin kendisinin nasıl geliştiği değil, yarattığı geniş etki olduğunu belirtti. "Şirketlerin bu kadar hızlı büyüyeceğini ve ne kadar hızlı merkezi hale geleceklerini öngöremedik" dedi.