Twitter, fotoğraf kırpma sistemindeki algoritmik önyargıları tespit etmek için bir müsabaka başlatmıştı. Şirket müsabakanın sonuçlarını açıkladı.

Twitter geçtiğimiz sene kullanıcılar tarafından yapılan araştırmalar sonucunda uygulamanın siyah yüzler yerine beyaz yüzleri tercih ettiğini öne sürdükten sonra Mart ayında otomatik fotoğraf kırpma özelliğini devre dışı bırakmıştı. Akabinde da sorunu daha yakından incelemek için algoritmik kusur mükafatı başlattı.

Twitter açık derilileri tercih ediyor

Müsabakada elde edilen bulgular tezleri doğruladı. Kazanan yarışmacı algoritmanın ince, genç, açık derili ya da sıcak ciltli şahısların yüzlerini tercih ettiğini tespit etti. İkinci ve üçüncü sıradaki yarışmacılar ise sistemin beyaz yahut gri saçlı bireylere karşı önyargılı olduğunu, yaş ayrımcılığının tespit edildiğini ve manzaralarda Arapça yazılar yerine İngilizcenin tercih edildiğini belirtti.

İlgili Makale
Twitter, Covid-19 aşıları için yeni bir adım attı

DEF CON 29 konferansında açıklanan sonuçların sunumu sırasında Twitter’ın META takımının yöneticisi Rumman Chowdhury, iştirakçileri algoritmik önyargının gerçek hayattaki tesirlerini tespit edip açığa çıkardıkları için övdü.

Chowdhury, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, bu yalnızca akademik ya da deneysel tabirini kullanıyorum. Bu filtreyi oluşturuyoruz zira hoş olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve cazip olmanın ne manaya geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor” dedi.

Twitter’ın yarışının sonuçları algoritmik sistemlerde toplumsal önyargıların nasıl çalıştığını gözler önüne seriyor. Birebir vakitte teknoloji şirketlerinin bu meselelerle nasıl gayret edebileceğini de gösteriyor.

Şirketin yarışında heyet olarak misyon yapan Patrick Hall ise, tüm sistemlerde bu çeşit önyargıların bulunduğunu ve şirketlerin bunları bulmak için proaktif olarak çalışması gerektiğini vurguladı.

İlgili Makale
Sosyal medya yasasına Almanya modeli geliyor