T
Tuğçe İçözü
Misafir
İlk geliştirici konferansını düzenleyen OpenAI, GPT-4'ün daha gelişmiş versiyonu olan GPT-4 Turbo'yu duyurdu. GPT-4 Turbo, iki farklı versiyon ile karşımıza çıkıyor. Bu versiyonlardan ilki metin analizi gerçekleştirirken, ikinci versiyon, hem metinlerin hem de görsellerin bağlamını anlayabiliyor.
Metin analizi gerçekleştiren model, dünden itibaren bir API üzerinden önizleme modunda kullanıcılara sunulmaya başlandı. Önümüzdeki haftalarda her iki versiyonun da genel kullanıcılara açılması planlanıyor.
Versiyonlar, yaklaşık 750 kelimeye denk gelen 1,000 girdi token'ı başına 0.01 dolar olarak ücretlendiriliyor. Bu noktada token'ları kelime parçacıkları ya da hece olarak düşünebilirsiniz. Yapay zeka, kelimeleri işlemek için parçalara ayırıyor.
Öte yandan GPT-4 Turbo'nun görsel işleme özelliğinin ücretlendirmesi, görsellerin boyutuyla ilişkili. OpenAI'ın aktardıklarına göre GPT-4 Turbo'da 1080 × 1080 piksel bir görseli iletmek 0.00765 dolara mâl olacak.
OpenAI paylaştığı blog gönderisinde performansı optimize ederek GPT-4 Turbo'da girdi token'ları için GPT-4 ile karşılaştırıldığında 3 kat daha ucuz fiyatlar sunmayı hedeflediklerini ifade ediyor. Aynı şekilde şirket, çıktı token'ları için ise 2 kat daha ucuz fiyatlar sunmaya odaklandı.
GPT-4 Turbo, sorulara yanıt verirken, GPT-4'e kıyasla daha yeni bir bilgi tabanından yararlanıyor. GPT-4 2021'in Eylül ayına kadar olan web verilerinden faydalanıyordu. GPT-4 Turbo ise 2023'ün Nisan ayına kadar olan verileri kapsıyor.
Ayrıca GPT-4 Turbo, metnin anlamsal bağlamı da dahil olmak üzere paternlere dayalı olarak kelimelerin ortaya çıkma olasılığını da öğrenmiş durumda. Böylece model, bir metin yazarken, kullanılan kalıp ifadeleri tamamlamakta güçlük çekmiyor.
GPT-4 Turbo, geniş bağlam penceresiyle de dikkatleri üzerine çekiyor. Bu noktada bağlam penceresinin ne anlama geldiğini aktarmakta fayda var. Bağlam penceresi, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni temsil ediyor. Küçük bağlam pencerelerine sahip modeller, yeni gerçekleşen konuşmaların içeriğini hatırlamakta güçlük çeker. Bu nedenle bu modeller, konuşulan konunun dışına çıkabilir.
Paylaşılan bilgilere göre GPT-4 Turbo, 128 bin token'lık bağlam penceresine sahip. Yani GPT-4 Turbo'nun bağlam penceresi GPT-4’ün bağlam penceresinin dört katına denk gelmekte. Aynı şekilde GPT-4 Turbo, Anthropic’in modeli Claude 2'nin 100 bin token'lık bağlam penceresini de geride bırakmış durumda. Öte yandan Anthropic, geçtiğimiz dönemde 200 bin token'lık bir bağlam penceresi üzerinde çalıştığını dile getirmişti.
128 bin token ise yaklaşık 100 bin kelimeye ya da 300 sayfaya denk geliyor. Yani GPT-4 Turbo, anlamlı konuşmalar geliştirmek için gerçekten geniş bir kapsama sahip.
Bunlara ek olarak GPT-4 Turbo yeni bir JSON moduna da sahip. Böylece model, kullanıcılara, açık standart dosya formatı ve veri değişim formatı olan JSON ile yanıt verebiliyor. JSON modunu özellikle veri iletimi gerçekleştiren web uygulamaları için önemli bir özellik olarak nitelemek mümkün.
OpenAI ayrıca GPT-4 için ince ayar yapmanızı sağlayan bir erişim programı başlattı. Erişim programının henüz deneysel aşamada olduğunu söyleyebiliriz. Bu ince ayar programı, GPT-3.5'in ince ayar programının aksine, OpenAI ekiplerinin daha fazla gözetimini içerecek. OpenAI ekipleri, GPT-4 ince ayar programına daha etkin bir şekilde rehberlik edecek.
OpenAI ekibinin, programa yüksek katılımının nedeni ise karşılaşılan teknik kısıtlamalar. GPT-3.5'un ince ayar programına kıyasla, GPT-4 ince ayar programı, temel model üzerinde anlamlı iyileştirmeler elde etmek için daha fazla çalışma gerektiriyor.
Kaynak : Webrazzi
Metin analizi gerçekleştiren model, dünden itibaren bir API üzerinden önizleme modunda kullanıcılara sunulmaya başlandı. Önümüzdeki haftalarda her iki versiyonun da genel kullanıcılara açılması planlanıyor.
GPT-4 Turbo versiyonlarının ücretlendirmesi
Versiyonlar, yaklaşık 750 kelimeye denk gelen 1,000 girdi token'ı başına 0.01 dolar olarak ücretlendiriliyor. Bu noktada token'ları kelime parçacıkları ya da hece olarak düşünebilirsiniz. Yapay zeka, kelimeleri işlemek için parçalara ayırıyor.
Öte yandan GPT-4 Turbo'nun görsel işleme özelliğinin ücretlendirmesi, görsellerin boyutuyla ilişkili. OpenAI'ın aktardıklarına göre GPT-4 Turbo'da 1080 × 1080 piksel bir görseli iletmek 0.00765 dolara mâl olacak.
OpenAI paylaştığı blog gönderisinde performansı optimize ederek GPT-4 Turbo'da girdi token'ları için GPT-4 ile karşılaştırıldığında 3 kat daha ucuz fiyatlar sunmayı hedeflediklerini ifade ediyor. Aynı şekilde şirket, çıktı token'ları için ise 2 kat daha ucuz fiyatlar sunmaya odaklandı.
GPT-4 Turbo'nun güncel bilgi tabanı
GPT-4 Turbo, sorulara yanıt verirken, GPT-4'e kıyasla daha yeni bir bilgi tabanından yararlanıyor. GPT-4 2021'in Eylül ayına kadar olan web verilerinden faydalanıyordu. GPT-4 Turbo ise 2023'ün Nisan ayına kadar olan verileri kapsıyor.
Ayrıca GPT-4 Turbo, metnin anlamsal bağlamı da dahil olmak üzere paternlere dayalı olarak kelimelerin ortaya çıkma olasılığını da öğrenmiş durumda. Böylece model, bir metin yazarken, kullanılan kalıp ifadeleri tamamlamakta güçlük çekmiyor.
GPT-4 Turbo'nun 128 bin token'lık bağlam penceresi
GPT-4 Turbo, geniş bağlam penceresiyle de dikkatleri üzerine çekiyor. Bu noktada bağlam penceresinin ne anlama geldiğini aktarmakta fayda var. Bağlam penceresi, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni temsil ediyor. Küçük bağlam pencerelerine sahip modeller, yeni gerçekleşen konuşmaların içeriğini hatırlamakta güçlük çeker. Bu nedenle bu modeller, konuşulan konunun dışına çıkabilir.
Paylaşılan bilgilere göre GPT-4 Turbo, 128 bin token'lık bağlam penceresine sahip. Yani GPT-4 Turbo'nun bağlam penceresi GPT-4’ün bağlam penceresinin dört katına denk gelmekte. Aynı şekilde GPT-4 Turbo, Anthropic’in modeli Claude 2'nin 100 bin token'lık bağlam penceresini de geride bırakmış durumda. Öte yandan Anthropic, geçtiğimiz dönemde 200 bin token'lık bir bağlam penceresi üzerinde çalıştığını dile getirmişti.
128 bin token ise yaklaşık 100 bin kelimeye ya da 300 sayfaya denk geliyor. Yani GPT-4 Turbo, anlamlı konuşmalar geliştirmek için gerçekten geniş bir kapsama sahip.
JSON modu
Bunlara ek olarak GPT-4 Turbo yeni bir JSON moduna da sahip. Böylece model, kullanıcılara, açık standart dosya formatı ve veri değişim formatı olan JSON ile yanıt verebiliyor. JSON modunu özellikle veri iletimi gerçekleştiren web uygulamaları için önemli bir özellik olarak nitelemek mümkün.
GPT-4 güncellemeleri
OpenAI ayrıca GPT-4 için ince ayar yapmanızı sağlayan bir erişim programı başlattı. Erişim programının henüz deneysel aşamada olduğunu söyleyebiliriz. Bu ince ayar programı, GPT-3.5'in ince ayar programının aksine, OpenAI ekiplerinin daha fazla gözetimini içerecek. OpenAI ekipleri, GPT-4 ince ayar programına daha etkin bir şekilde rehberlik edecek.
OpenAI ekibinin, programa yüksek katılımının nedeni ise karşılaşılan teknik kısıtlamalar. GPT-3.5'un ince ayar programına kıyasla, GPT-4 ince ayar programı, temel model üzerinde anlamlı iyileştirmeler elde etmek için daha fazla çalışma gerektiriyor.
Kaynak : Webrazzi
