Claude yapay zeka metinlerini filigranlayacak

Yapay zeka şirketi Anthropic, sohbet robotu Claude'un ürettiği metinlere filigran eklemeye başlayacağını duyurdu. Şirket, bu adımı Avrupa Birliği'nin (AB) Aralık ayında yürürlüğe girecek yeni düzenlemesine uyum sağlamak için attığını açıkladı. AB düzenlemesi, tüm yapay zeka şirketlerinin ürettikleri metinleri filigranlamasını zorunlu kılıyor.

Filigran nasıl çalışacak?

Anthropic, filigranın Claude'un metin üretirken yaptığı küçük ve rastgele seçimlerin değiştirilmesiyle oluşturulacağını belirtti. Model, örneğin bir günü 'gri' veya 'kapalı' olarak adlandırma ya da akan suyu 'dere' veya 'çay' olarak tanımlama gibi seçimler yapıyor. Şirket, bu rastgele seçimlerin değiştirilmesiyle ortaya çıkan örüntünün Anthropic ve kod çözme anahtarına sahip kişiler tarafından tespit edilebileceğini, ancak ortalama bir okuyucu tarafından fark edilemeyeceğini söyledi.

Ancak bazı uzmanlar bu durumun metin kalitesini olumsuz etkileyebileceğini düşünüyor. Teknoloji blog yazarı John Gruber, filigran uygulamasının Claude'un kelime seçimlerini kısıtlayarak daha kötü ve daha az hassas bir dil kullanmasına neden olabileceğini öne sürdü.

Uzmanlardan 'kalite düşmez' yorumu

University College London'da bilgisayar bilimleri profesörü olan Steven Murdoch ise bu değişikliğin 'muhtemelen gözle görülür bir etkisi olmayacağını' söyledi. Murdoch, büyük dil modellerinin zaten rastgelelik içerdiğini ve bu rastgeleliğin olmaması durumunda modellerin döngüye girip aynı şeyleri tekrar etmeye başlayacağını belirtti. 'Görünür bir fark olmayacak. Aynı rastgele sayı üreteçleri orada; eskiden tamamen rastgeleydi, şimdi istatistiksel olarak tahmin edilebilir ama yine de rastgele' dedi.

Filigran uygulamasının öğrenciler, avukatlar ve akademisyenler için yapay zeka tarafından üretilen içerikleri kendi çalışmaları gibi göstermeyi zorlaştıracağı belirtiliyor. Murdoch ayrıca, filigranın yapay zekanın kendi ürettiği içeriklerle eğitilmesinden kaynaklanan 'model çöküşü' sorununu da önleyebileceğini ifade etti.