T
Tuğçe İçözü
Misafir
Yapay zeka şirketi OpenAI, yaklaşık bir yıldır hem ChatGPT tarafından oluşturulan metinleri filigranlamak için bir sisteme hem de filigranı tespit etmek için bir araca sahip. Ancak şirket, filigranı ve aracı yayınlamak konusunda ikiye bölünmüş durumda. Bu adımı atmak şirketin sorumlu yapay zeka pratikleri için önemli olsa da; kar hanesinde bir düşüşe yol açabilir.
OpenAI'ın filigranı, modelin öncekileri takip edecek en olası kelimeleri ve cümleleri nasıl tahmin ettiğini ayarlayarak tespit edilebilir bir model oluşturması anlamına geliyor. OpenAI, metin filigranı sayesinde diğer şirketlerin modellerinden değil, yalnızca ChatGPT'den gelen yazıları tespit etmeye odaklanacak. Bunun için ChatGPT'nin kelimeleri seçme biçiminde küçük değişiklikler yapacak olan şirket, yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran yaratacak.
The Wall Street Journal'ın aktardıklarına göre OpenAI, filigranın ChatGPT'nin metin çıktısının kalitesini etkilemediğini tespit etti. OpenAI'ın yaptırdığı bir anket ise dünya genelinde insanların bir yapay zeka tespit aracı fikrini dörde bir farkla desteklediğini gösteriyor. Öte yandan ankete katılan ChatGPT kullanıcılarının neredeyse yüzde 30'u filigran uygulanması halinde yazılımı daha az kullanacaklarını ifade ediyor. Bu da OpenAI'ın bu konuda endişelenmesi için yeterli.
OpenAI, Mayıs ayında yayınladığı blog gönderisini güncelleyerek metin filigranı üzerinde çalıştığını doğruladı. Güncellenmiş gönderide şirket, yönteminin çok doğru olduğunu ve yeniden ifade etme gibi tahrifatlara karşı dirençli olduğunu belirtiyor. The Wall Street Journal'ın edindiği belgelere göre yöntem doğruluk konusunda yüzde 99,9 etkili.
Blog yazısında yer alan güncel bilgilere göre, şirket, meta veri yerleştirmeyi keşfetmenin ilk aşamalarında. Bu yöntemin ne kadar iyi çalışacağını bilmek için henüz çok erken olduğunu belirten OpenAI, çıktılar kriptografik olarak imzalandığı için yanlış pozitiflerin olmayacağını ifade ediyor.
Bir OpenAI sözcüsü yaptığı açıklamada şöyle konuştu:
Kaynak : Webrazzi
Metin filigranı nasıl çalışıyor?
OpenAI'ın filigranı, modelin öncekileri takip edecek en olası kelimeleri ve cümleleri nasıl tahmin ettiğini ayarlayarak tespit edilebilir bir model oluşturması anlamına geliyor. OpenAI, metin filigranı sayesinde diğer şirketlerin modellerinden değil, yalnızca ChatGPT'den gelen yazıları tespit etmeye odaklanacak. Bunun için ChatGPT'nin kelimeleri seçme biçiminde küçük değişiklikler yapacak olan şirket, yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran yaratacak.
Kullanıcılar metin filigranı hakkında ne düşünüyor?
The Wall Street Journal'ın aktardıklarına göre OpenAI, filigranın ChatGPT'nin metin çıktısının kalitesini etkilemediğini tespit etti. OpenAI'ın yaptırdığı bir anket ise dünya genelinde insanların bir yapay zeka tespit aracı fikrini dörde bir farkla desteklediğini gösteriyor. Öte yandan ankete katılan ChatGPT kullanıcılarının neredeyse yüzde 30'u filigran uygulanması halinde yazılımı daha az kullanacaklarını ifade ediyor. Bu da OpenAI'ın bu konuda endişelenmesi için yeterli.
OpenAI, Mayıs ayında yayınladığı blog gönderisini güncelleyerek metin filigranı üzerinde çalıştığını doğruladı. Güncellenmiş gönderide şirket, yönteminin çok doğru olduğunu ve yeniden ifade etme gibi tahrifatlara karşı dirençli olduğunu belirtiyor. The Wall Street Journal'ın edindiği belgelere göre yöntem doğruluk konusunda yüzde 99,9 etkili.
OpenAI'ın çekincesi
Blog yazısında yer alan güncel bilgilere göre, şirket, meta veri yerleştirmeyi keşfetmenin ilk aşamalarında. Bu yöntemin ne kadar iyi çalışacağını bilmek için henüz çok erken olduğunu belirten OpenAI, çıktılar kriptografik olarak imzalandığı için yanlış pozitiflerin olmayacağını ifade ediyor.
Bir OpenAI sözcüsü yaptığı açıklamada şöyle konuştu:
Kaynak : Webrazzi
