T
Tuğçe İçözü
Misafir
Yapay zeka devrimi hemen hemen her alanda kendini göstermeye başlamışken, yapay zeka modellerinin ön yargılara sahip olması, yapay zeka destekli karar verme süreçlerinin güvenilir ve adil olmaktan uzaklaştırıyor. Bu konuya çözüm getirmek isteyen Anthropic ise ön yargılardan arınmış sonuçlar elde etmek için birbirinden farklı yollar deniyor.
Alex Tamkin liderliğindeki Anthropic araştırmacıları, yayınladıkları bir makalede, Claude 2.0'ın iş ve kredi başvuruları gibi durumlarda ırk ve cinsiyet gibi kişisel özelliklere karşı ayrımcılık yapmasının nasıl engellenebileceğini inceledi.
Ekip öncelikli olarak, çalışma vizesi verilmesi, krediye ortak imza atılması, sigorta tazminatının ödenmesi gibi çeşitli durumlarda ırk, yaş ve cinsiyet gibi kişisel özelliklerin değiştirilmesinin modelin kararları üzerinde etkili olup olmadığını kontrol etti. Araştırmada yer alan bilgilere göre, Afrika kökenli olmak açık ara farkla en güçlü ayrımcılığa neden oldu. Amerikan yerlisi olmak ayrımcılığa uğrama konusunda ikinci sırada yer alırken, ikili cinsiyet kalıplarına uymayan kişilerin 3. sırada yer aldığı tespit edildi.
Buna karşın araştırmacılar, soruyu çeşitli şekillerde yeniden ifade etti ancak bu durum hiçbir şeyi etkilemedi. Aynı şekilde modelden işini yaparken yüksek sesle düşünmesini istemek de bir fark yaratmadı.
Araştırmacıların, ön yargısız yanıtlar almasını sağlayan şey ise "müdahale" adını verdikleri yöntem oldu. Bu kapsamda araştırmacılar, adeta modelden ön yargılı olmamasını rica etti. Örnek vermek gerekirse; araştırmacılar, modele sağlanan bilgiler arasında bu kişisel özellikler yer alsa da; modelin söz konusu kararı bu özellikler olmadan verdiğini hayal etmesi gerektiğini dile getirebilir.
Ekibin kullandığı komutlardan biri de
Başka bir örnekte ise kararın ırk, cinsiyet, yaş ve demografik karakteristiklerin kararı etkilememesinin "gerçekten önemli olduğu" ısrar ile defalarca tekrarlandı.
Araştırma sonuçları bizlere, çalışma vizesi verilmesi, krediye ortak imza atılması, sigorta tazminatının ödenmesi gibi durumları otomatikleştirmek için büyük/geniş dil modellerinin kullanılmasının henüz pek de mümkün olmadığını göstermekte.
İlerleyen dönemde yapay zeka şirketlerinin büyük/geniş dil modellerindeki ön yargı problemine ne gibi kontrollerle çözüm getirebileceğini hep birlikte izleyip göreceğiz.
Kaynak : Webrazzi
Alex Tamkin liderliğindeki Anthropic araştırmacıları, yayınladıkları bir makalede, Claude 2.0'ın iş ve kredi başvuruları gibi durumlarda ırk ve cinsiyet gibi kişisel özelliklere karşı ayrımcılık yapmasının nasıl engellenebileceğini inceledi.
Ön yargılardan kimler en çok etkileniyor?
Ekip öncelikli olarak, çalışma vizesi verilmesi, krediye ortak imza atılması, sigorta tazminatının ödenmesi gibi çeşitli durumlarda ırk, yaş ve cinsiyet gibi kişisel özelliklerin değiştirilmesinin modelin kararları üzerinde etkili olup olmadığını kontrol etti. Araştırmada yer alan bilgilere göre, Afrika kökenli olmak açık ara farkla en güçlü ayrımcılığa neden oldu. Amerikan yerlisi olmak ayrımcılığa uğrama konusunda ikinci sırada yer alırken, ikili cinsiyet kalıplarına uymayan kişilerin 3. sırada yer aldığı tespit edildi.
Buna karşın araştırmacılar, soruyu çeşitli şekillerde yeniden ifade etti ancak bu durum hiçbir şeyi etkilemedi. Aynı şekilde modelden işini yaparken yüksek sesle düşünmesini istemek de bir fark yaratmadı.
Araştırmacıların, ön yargısız yanıtlar almasını sağlayan şey ise "müdahale" adını verdikleri yöntem oldu. Bu kapsamda araştırmacılar, adeta modelden ön yargılı olmamasını rica etti. Örnek vermek gerekirse; araştırmacılar, modele sağlanan bilgiler arasında bu kişisel özellikler yer alsa da; modelin söz konusu kararı bu özellikler olmadan verdiğini hayal etmesi gerektiğini dile getirebilir.
Ekibin kullandığı komutlardan biri de
Başka bir örnekte ise kararın ırk, cinsiyet, yaş ve demografik karakteristiklerin kararı etkilememesinin "gerçekten önemli olduğu" ısrar ile defalarca tekrarlandı.
Araştırma sonuçları bizlere, çalışma vizesi verilmesi, krediye ortak imza atılması, sigorta tazminatının ödenmesi gibi durumları otomatikleştirmek için büyük/geniş dil modellerinin kullanılmasının henüz pek de mümkün olmadığını göstermekte.
İlerleyen dönemde yapay zeka şirketlerinin büyük/geniş dil modellerindeki ön yargı problemine ne gibi kontrollerle çözüm getirebileceğini hep birlikte izleyip göreceğiz.
Kaynak : Webrazzi
