Anthropic halka arz öncesi yapay zeka risklerine dikkat çekti

Yapay zeka şirketi Anthropic, ABD'de planladığı büyük halka arz öncesinde yaptığı başvuruda, yapay zekanın insanlık için "yıkıcı veya varoluşsal riskler" oluşturabileceği uyarısında bulundu. Şirket, Claude adlı sohbet robotunun geliştiricisi olarak, Nasdaq borsasında ANT sembolüyle işlem göreceğini açıkladı. Bu, tamamen yapay zeka odaklı bir şirketin ilk halka arzı olacak ve teknolojinin geleceği için bir test niteliği taşıyor.

Anthropic'in değerlemesinin, geçen yaz yaklaşık 1,8 trilyon dolarlık ilk değerlemesiyle en büyük halka arz olan SpaceX'i geçmesi bekleniyor. Şirket henüz hisse sayısını, fiyat aralığını veya halka arz tarihini açıklamadı. Şirket, yılın ilk yarısında 16,3 milyar dolar (12,2 milyar sterlin) gelir ve 80,7 milyar doların üzerinde zarar bildirdi.

Yapay zeka risklerine ilişkin uyarılar

Anthropic, halka arz öncesi dosyasında, politika yapıcılar, düzenleyiciler, araştırmacılar ve kendi kurumu içindeki kişilerin yapay zeka sistemlerinin insanlık için önemli bir risk oluşturduğuna dair endişelerini dile getirdiğini belirtti. Şirket, gelişmiş yapay zeka sistemlerinin "uygun güvenlik önlemleri, gözetim ve güvenlik tedbirleriyle geliştirilmediği, kullanılmadığı ve işletilmediği takdirde, özellikle bu tür sistemlerin kötüye kullanılması, çoğaltılması, silah haline getirilmesi veya yüksek derecede özerklikle çalışmasına izin verilmesi durumunda insanlık için yıkıcı veya varoluşsal riskler oluşturabileceğini" ifade etti.

Anthropic, beş yıl önce CEO Dario Amodei, kız kardeşi Daniela Amodei ve beş kişi tarafından kuruldu ve Haziran ayında halka açılma niyetini duyurdu. Başlıca rakibi OpenAI da kısa süre sonra aynı adımı attı. OpenAI'nin halka arzının gelecek yılın başlarında gerçekleşmesi bekleniyor.

Bu duyuruların ardından, yapay zeka ajanlarını (kısmen özerk çalışacak şekilde tasarlanmış botlar) içeren bir dizi siber güvenlik ve teknolojik ihlal yaşandı. Her iki şirketin mevcut ve eski çalışanları da yapay zeka teknolojisinin, insanlığı yapay zeka araçlarının yol açabileceği olası zararlardan koruma yeteneği olmadan geliştirildiği uyarısında bulundu.

Anthropic Pazartesi günü halka arz planlarını açıklarken, Elvis Presley'in müziğinin hak sahipleri, şirketin rock'n roll yıldızının yüzlerce şarkısını Claude chatbotunu eğitmek için kullandığı iddiasıyla dava açtı.

Şirket değeri ve gelecek planları

Anthropic, yeni belgelerinde geçmişte yapay zekayı insanlara faydalı olacak şekilde geliştirme vaadini yineledi, ancak aynı zamanda yatırımcıları riskleri konusunda uyardı. Şirket, ilk yarıda gelirini aşan zararlarını bildirdi, ancak sıklıkla "ilk bakışta sorumsuzca büyük görünebilecek" ileriye dönük yatırımlar yapacağını söyledi.

Başarısının büyük ölçüde en gelişmiş yapay zeka modellerini geliştirme yeteneğine bağlı olduğunu belirten Anthropic, "bunu yapmamak işimizi olumsuz etkileyebilir" dedi. Şirket, yaklaşık 90 sayfalık risk faktörleri belgesinde, yapay zekayı güvenli ve rekabetçi bir şekilde geliştirme yeteneğine yönelik potansiyel tehditleri sıraladı.

Anthropic, bulut bilişim sağlayıcılarına, halihazırda büyük taleple karşılaşan Tayvanlı çip üreticilerine ve ABD'de yoğunlaşan veri merkezlerine bağımlı olduğu uyarısında bulundu. Ayrıca, "yapay zeka modellerimizle ilişkili zararlardan kaynaklanan düzenleyici eylemler" ve sistemlerinin eylemlerinden nerede ve nasıl sorumlu tutulabileceğine dair belirsizlik konusunda uyardı. Ancak şirket, dosyasında teknolojinin potansiyel faydalarını da övdü ve "insan çabasının her alanında devrim yaratma yeteneğine sahip milyonlarca sanal ajanın" ortaya çıkmasını öngördü.

Yatırım yönetimi şirketi Raymond James Investment'ın baş piyasa stratejisti Matt Orton, BBC'ye yatırımcıların Anthropic'in finansmanında hızlı büyümenin yanı sıra hızlı finansal kayıplar görmeyi beklediğini, bu nedenle Pazartesi günkü başvurunun sürpriz olmayacağını söyledi. Andersen Capital Management'ın kurucusu Peter Andersen ise Reuters'a, Anthropic'in halka arz planlarının "yapay zeka gelişiminde önemli bir kilometre taşı" olduğunu belirtti.