Yapay zeka hizmetlerine fiyat koymak neden zor?

OpenAI, Microsoft ve Google gibi büyük teknoloji şirketleri, yapay zeka hizmetlerinin ücretsiz sürümlerini kullanıcılara sunuyor. Bu hizmetlerin arkasındaki büyük dil modellerinin (LLM) geliştirilmesi için yüz milyarlarca dolar harcandı. Şirketler bu yatırımı geri kazanmak için ek özellikler sunan ücretli sürümler satıyor.

Ancak üçüncü taraf firmalar, belirli görevleri yerine getirmek üzere eğitilmiş yapay zeka ajanlarına dayalı hizmetler geliştirip satıyor. Bu hizmetlere fiyat belirlemek ise beklenenden çok daha zor. Bunun nedeni, büyük dil modellerinin ve yapay zeka ajanlarının temelini oluşturan token adı verilen matematiksel veri birimlerinin maliyetindeki hızlı değişim.

Token maliyetleri ve belirsizlik

Bir kullanıcı ChatGPT veya Anthropic'in Claude'u gibi bir yapay zeka modeline soru sorduğunda, bu soru token adı verilen parçalara ayrılıyor. Modelin yanıtı da token olarak üretiliyor ve metne, yazılım koduna veya otomasyon komutlarına dönüştürülüyor. Ancak bu süreç tamamen öngörülebilir değil. Sorudaki küçük değişiklikler farklı yanıtlara yol açabiliyor ve aynı soru her zaman aynı yanıtı üretmiyor.

Farklı modeller de farklı sonuçlar verebiliyor. Ayrıca, işletmeler birden fazla yapay zeka ajanını birlikte kullandığında token kullanımı ve belirsizlik artıyor. Goldman Sachs'ın analizine göre, tek bir tokenin maliyeti düşerken tüketilen token sayısı hızla artıyor. Banka, 2026 ile 2030 arasında aylık token tüketiminin 24 kat artarak 120 katrilyona ulaşacağını tahmin ediyor.

Şirketlerin zorlukları ve çözüm arayışları

Şirketler ve bireyler, genellikle ne kadar token kullandıklarını tam olarak bilmiyor. Bu durum, aylık faturalar geldiğinde şaşkınlık yaratabiliyor. Microsoft'un bazı üçüncü taraf kodlama araçlarının kullanımını kısıtladığı, Uber'in ise yıllık yapay zeka kodlama token bütçesini birkaç ayda tükettiği bildirildi.

Londra Ekonomi Okulu'ndan Will Venters, şirketlerin iç süreçlerinde yapay zekayı denerken veya uygularken beklenmedik maliyetlerle karşılaşabileceğini söylüyor: "İnsanlar bu maliyeti yönetmekte gerçekten zorlanıyor. Çıktı belirsiz olduğu için değer de belirsiz."

smartR AI'nin kurucusu Oliver King-Smith, küçük kuruluşların sabit ücretli kişisel hesaplar kullanarak bu maliyetlerden kaçınabildiğini ancak bu durumun uzun vadede sürdürülebilir olmadığını belirtiyor: "Büyük sağlayıcılar bu hesaplarda zarar ediyor. Hissedarların kar baskısı arttığında bu hesapları kısıtlamaya başlayacaklar."

iplicit'in finans direktörü Rob Steele, şirketlerin yapay zekaya daha net talimatlar vermesi gerektiğini vurguluyor: "Ailenizden birini haftalık alışverişe gönderirken sepetinizde ne olmasını istediğinizi söylemeden göndermezsiniz."

Fiyatlandırma konusunda henüz net bir çözüm yok. Sumo Logic'ten Bill Peterson, yapay zeka güvenlik hizmetleri için fiyat yapısı belirlemeye çalıştıklarını ancak henüz kimsenin bu konuyu tam olarak çözmediğini söylüyor: "Bu konuda içeride hâlâ ilginç konuşmalar yapıyoruz."