Anthropic Claude AI İçeriklerine Otomatik Filigran Getiriyor
Konuya bakış Yakında bir şeyin bir insandan mı yoksa Claude'dan mı geldiğinden emin olabilirsiniz. Anthropic bu hafta, AI modelleri ailesi tarafından oluşturulan metin ve dosyaların tüketicilere bilgi vermek için filigranlanacağını söyledi. Değişiklik, şirketin yapay zeka kullanımının…
Konuya bakış
Yakında bir şeyin bir insandan mı yoksa Claude’dan mı geldiğinden emin olabilirsiniz. Anthropic bu hafta, AI modelleri ailesi tarafından oluşturulan metin ve dosyaların tüketicilere bilgi vermek için filigranlanacağını söyledi. Değişiklik, şirketin yapay zeka kullanımının şeffaflığını düzenleyen AB düzenlemelerine uymasına olanak tanıyacak.
AB’nin Yapay Zeka Tarafından Üretilen İçeriğin Şeffaflığına İlişkin Uygulama Kuralları, yapay zeka sistemleri sağlayan ve dağıtan şirketlerin, yapay zeka ile etkileşime girdiklerinde müşterilerini bilgilendirmesini ve yapay zeka içeriğine filigran eklemesini gerektirir. Tüketiciler aynı zamanda deepfake’lere, duygu tanıma ve biyometrik sınıflandırma araçlarına ne zaman maruz kaldıklarını da bilmelidir. 13.
yüzyılda İtalya’da ortaya çıkan bir kimlik doğrulama süreci olan filigranlama, yapay zeka içeriği için tamamen farklıdır. Yapay zeka sistemi, içeriğin bir insandan değil yapay zekadan kaynaklandığını belirten işaretleyicileri metne otomatik olarak yerleştirebilir.
Nasıl işliyor?
Örnekler arasında kelimeler ve sayılar arasındaki farklı boşluklar, kelime dizilimi ve kişi metni farklı platformlara kopyalayıp yapıştırsa bile metinde kalan diğer görünmez sinyaller olabilir. Okuyucular bu işaretleri göremez ancak bilgisayar sistemleri görebilir. Bu hafta yaptığı duyuruda Anthropic, 2 Ağustos’ta veya sonrasında piyasaya sürülen Claude modellerinin filigran içereceğini söyledi.
Buna Claude tarafından API, Claude, Claude Code, Claude Cowork ve Claude Tag aracılığıyla oluşturulan içerik de dahildir. Filigranlama yalnızca AB’de değil, yapay zeka sisteminin sunulduğu her yerde Claude tarafından oluşturulan tüm içeriklere uygulanır. Anthropic, gelecekte filigranların tespit edilmesine ilişkin ayrıntıları paylaşacağını söyledi.
Anthropic’in bir temsilcisi, yorum ve açıklama talebine hemen yanıt vermedi. Filigranlanacak olan şey Claude, oluşturduğu metin ve dosyalara (.svg, .png veya .jpg dahil) filigranlar ekleyecektir. Metinde filigranlar, okuyucular tarafından görülemeyen ancak makine sistemleri tarafından görülebilen, harflere ve kelimelere gömülü sinyaller olacaktır.
Pratik değerlendirme
Metin, Windows Not Defteri veya MacOS’un TextEdit’i gibi metin düzenleyicilerden kopyalanıp yapıştırılsa bile filigranlar kalacaktır. İşaretler ayrıca insan düzenlemesi yoluyla da ortadan kaldırılamayabilir. Şirket, “Filigranlama model düzeyinde uygulanacak, bu da metnin hangi Claude ürünü veya yüzeyinden geldiğine bakılmaksızın mevcut olacağı anlamına geliyor” dedi.
: Tüm Yapay Zeka Hile Uygulamalarını ve Dedektörlerini Kullandım ve Bir Sonuca Vardım Claude tarafından oluşturulan görüntü dosyaları, görüntünün nereden geldiği, onu kimin oluşturduğu ve değiştirilip değiştirilmediği hakkında bilgiler de dahil olmak üzere imzalı kaynak meta verilerine sahip olacaktır.
Birisi onu kurcalamaya çalışırsa (örneğin, yapay zeka tarafından oluşturulduğunu gizlemeye çalışırsa), kriptografik imza bozulacak ve böylece okuyucuya imzanın tahrif edildiğini gösterecektir. Yapay zeka şeffaflığı büyüyen bir trend. Substack, Pangram t ile ortaklık kurdu o Bir gönderinin ne kadarının (varsa) yapay zeka tarafından oluşturulduğunu okuyuculara bildirin.
Nelere dikkat edilmeli
Suno yakın zamanda dinleyicilerin bir şarkının yapay zeka tarafından yaratılıp yaratılmadığını bilmelerine yardımcı olacak değişiklikleri duyurdu. LinkedIn müşterileri yapay zekanın zayıfladığından şüpheleniyorsa bunu LinkedIn’e bildirebilirler. Spotify’ın yeni özelliği AI Persona, dinleyicilerin ve yaratıcıların hangi müziğin yapay zeka ile oluşturulduğunu bilmesine olanak tanıyor.
Kusursuz değil Anthropic duyurusuna bir uyarı ekledi. Filigranlamanın varlığı, içeriğin veya görselin mutlaka Claude tarafından oluşturulduğu anlamına gelmediği gibi, filigranın yokluğu da Claude’un olaya dahil olmadığı anlamına gelmez. Örneğin, birinin başka bir yazarın makalesini yeniden kullanmak istediğini varsayalım. Makaleyi Claude’a yumruklarlar ve yapay zekadan onu yeniden yazmasını isterler.
Çıktıda filigran olacak, ancak içeriğin gerçekleri ve ayrıntıları yapay zekadan değil, bir yazardan geldi. Şirket, insanların çoğunlukla düzeltme, çeviri ve özetleme için Claude’u kullandığını söyledi. Birisi ayrıca Claude’dan içerik alıp düzenleyebilir ve onu başka metinlerle birleştirebilir.
Nihai taslağın sadece küçük bir kısmı Claude’a ait olsa bile, belgenin okuyucu açısından meşruiyetini zayıflatabilecek bir filigran olabilir. : Öğrencilerin Yapay Zekayla Kopya Çekmesi Bu Ivy League Okulunun 133 Yıllık Geleneği Altüst Etmesine Neden Oldu Antropik, Claude tarafından oluşturulan veya işlenen içeriğin çeşitli nedenlerle filigran içermeyebileceğini söyledi.
Yapay zeka tarafından oluşturulan içeriğin miktarı çok az olabilir veya belki de içerik “büyük ölçüde düzenlenmiş, başka kelimelerle ifade edilmiş, tercüme edilmiş veya başka yazılara karıştırılmıştır.” Claude tarafından oluşturulan bir görselin filigran içermemesi de mümkündür. Örneğin, birisi görselin ekran görüntüsünü alıp onu farklı bir dosya olarak yeniden kaydederse meta veriye sahip olmayacaktır.
Her ne kadar Anthropic AB kurallarına uymaya çalışsa da bazı raporlara göre yapay zeka tespiti oldukça güvenilir değil. Örneğin, anadili İngilizce olmayan kişiler tarafından hazırlanan içerikler sıklıkla yanlışlıkla yapay zeka tarafından oluşturulmuş olarak işaretleniyor.
İlgili yazılar
Editörün Notu
Filigran uygulaması, yapay zeka kaynaklı içeriklerin tespitini kolaylaştırarak dijital güvenliği artırır ve kullanıcıların bilgi doğruluğunu hızlıca değerlendirmesine yardımcı olur. Bu sayede içerik tüketiminde bilinçli tercihler yapmak mümkün hale gelir.
