G
Gözde Ulukan
Misafir
Son dönemde herkes, muhakkak bir yerde ChatGPT ile oluşturulan sohbetlere denk gelmiştir. Adeta bir insan yazmış gibi cevap veren OpenAI'ın yapay zekası, birçok kişinin de kafasında soru işaretleri oluşturmaya devam ediyor. OpenAI, bu karışıklığı önlemek ve yapay zeka tarafından oluşturulan içerikleri diğerlerinden ayırmak için yeni yollar arıyor. Şirket bu kapsamda yapay zeka tarafından oluşturulan içeriklere filigran eklemeye hazırlanıyor.
OpenAI, ürettiği her görüntüde yerleşik bir imzayla DALL-E adlı başka bir içerik oluşturma aracını işaretlemek için halihazırda bazı yöntemlere sahip. Ancak metnin kaynağını takip etmek görsele göre çok daha zor. Bunun için kelimelere gizli, çıkarılması zor bir etiketi eklemek gerekiyor. OpenAI'ın bunu nasıl yapacağı ise ciddi anlamda merak konusu. Bu kapsamda en umut verici yaklaşımın kriptografi olduğu söyleniyor.
OpenAI araştırma bilimcisi Scott Aaronson, kelimelerin noktalama işaretlerini, harfleri veya kelime parçalarını temsil eden ve toplamda yaklaşık 100 bin token oluşturan bir token dizisine dönüştürülebileceğini açıkladı. GPT sisteminin, daha sonra bu belirteçleri düzenleyebileceğini ve yalnızca OpenAI tarafından bilinen bir şifreleme anahtarı kullanılarak algılanabileceklerini söyledi. Yani son kullanıcıya etki eden herhangi bir durum söz konusu olmayacak.
Aaronson aslında, bir GPT aracı kullanan herhangi birinin, sözcükleri yeniden düzenleyerek veya noktalama işaretlerini çıkararak bile filigran sinyalini temizlemesinin zor olacağını söyledi. Bunu yenmenin en iyi yolunun, GPT aracının çıktısını yorumlamak için başka bir yapay zeka sistemi kullanmak olacağını; ancak bunın çaba gerektirdiğini ve bunu herkesin yapamayacağını dile getirdi.
Sonuç olarak OpenAI'ın ChatGPT bu denli popüler hale gelirken metinleri için bir filigran sistemine öncelik vermesi gerekiyor. Bunu nasıl yapacağını ise bekleyip göreceğiz.
Kaynak : Webrazzi
OpenAI, ürettiği her görüntüde yerleşik bir imzayla DALL-E adlı başka bir içerik oluşturma aracını işaretlemek için halihazırda bazı yöntemlere sahip. Ancak metnin kaynağını takip etmek görsele göre çok daha zor. Bunun için kelimelere gizli, çıkarılması zor bir etiketi eklemek gerekiyor. OpenAI'ın bunu nasıl yapacağı ise ciddi anlamda merak konusu. Bu kapsamda en umut verici yaklaşımın kriptografi olduğu söyleniyor.
OpenAI araştırma bilimcisi Scott Aaronson, kelimelerin noktalama işaretlerini, harfleri veya kelime parçalarını temsil eden ve toplamda yaklaşık 100 bin token oluşturan bir token dizisine dönüştürülebileceğini açıkladı. GPT sisteminin, daha sonra bu belirteçleri düzenleyebileceğini ve yalnızca OpenAI tarafından bilinen bir şifreleme anahtarı kullanılarak algılanabileceklerini söyledi. Yani son kullanıcıya etki eden herhangi bir durum söz konusu olmayacak.
Aaronson aslında, bir GPT aracı kullanan herhangi birinin, sözcükleri yeniden düzenleyerek veya noktalama işaretlerini çıkararak bile filigran sinyalini temizlemesinin zor olacağını söyledi. Bunu yenmenin en iyi yolunun, GPT aracının çıktısını yorumlamak için başka bir yapay zeka sistemi kullanmak olacağını; ancak bunın çaba gerektirdiğini ve bunu herkesin yapamayacağını dile getirdi.
Sonuç olarak OpenAI'ın ChatGPT bu denli popüler hale gelirken metinleri için bir filigran sistemine öncelik vermesi gerekiyor. Bunu nasıl yapacağını ise bekleyip göreceğiz.
Kaynak : Webrazzi
