Twitter, Irk ve Cinsiyet Önyargısı Nedeniyle Yapay Zeka Kırpmayı Önlediğini Açıkladı

Twitter'ın görüntü kırpma algoritmasının bazı önyargıları olabileceği fikrini ilk kez Eylül 2020'de duyduk. Kriptografi mühendisi Tony Arcieri, Senato Çoğunluk Lideri Mitch McConnell ve eski Başkan Barack Obama'nın yer aldığı iki resim yükledi ve AI, her iki seferinde de McConnell'in yüzüne kırpıldı.

Tartışma sonunda Twitter'daki insanlara ulaştığında, şirket modelini analiz etmeye söz verdi. Son olarak, bu bulguları okuyacağız.

Twitter Algoritma Analizinin Sonuçlarını Paylaşıyor

Mayıs ayının başında, Twitter sonunda tam boyutlu resim önizlemelerini kullanıma sundu mobil zaman çizelgelerinde. Twitter blogunda yayınlanan bir gönderi, bir analizin ırk ve cinsiyet temelli önyargıları olduğunu gösterdikten sonra uygulamanın görüntü kırpma algoritmasını baltaladığını ortaya çıkardı.

Platform, görüntülerini kırpmak için 2018'de bir belirginlik algoritması kullanmaya başladı. Twitter, belirginlik modellerinin insan gözü izleme verileri üzerinde eğitildiğini ve daha sonra bu veriler tarafından Görüntüdeki hangi konuların / öğelerin çoğu için önemli olduğunu düşündüğünü tahmin eden algoritma insanlar.

Algoritma, daha sonra, en yüksek puana sahip noktayı mahsulün merkezi olarak seçmeden önce, görüntünün tüm bölümleri için bir belirginlik puanı bulacaktır.

Ekip, potansiyel önyargıları kontrol etmek için nicel bir test yaptıktan sonra, belirginlik algoritmasının kadınları erkeklere, beyazları siyahlara göre tercih ettiğini buldu.

Twitter ayrıca "erkek bakışı" için algoritmayı test etti, ancak nesneleştirme yanlılığına dair hiçbir kanıt bulunamadı.

Belirginlik algoritması, ırk ve cinsiyet alt grupları arasında mükemmel eşitliği yansıtacak şekilde ayarlanmış olsa bile, biz [Twitter] endişeliyiz insanların kendilerini istedikleri gibi göstermelerine izin verilmediğinde otomatik algoritmanın temsili zararı ile platform. Belirginlik, kültürel nüanslara duyarsızlıklar da dahil olmak üzere, bu analizin kapsamı dışında başka olası zararları da barındırır.

Otomatik mahsulün hızı ve tutarlılığı ile riskleri arasındaki ödünleşmeleri göz önünde bulundurarak, Twitter, ekibinin bir görüntünün nasıl kırpılacağının en iyi insanlar tarafından verilen bir karar olduğunu anladığını söylüyor. algoritmalar.

İlişkili: Geleceği Değiştiren Teknoloji Trendleri

Twitter Otomatik Görüntü Kırpmadan Kurtuldu

Twitter artık belirginlik algoritmasını kullanmıyor ve artık standart en boy oranlı fotoğrafları hem iOS hem de Android'de tam olarak görüntülüyor. Bir tweet oluştururken, yeni güncellemenin yüklenen görüntülerin gerçek bir önizlemesini de içerdiğini göreceksiniz, böylece yayınlandıktan sonra her şeyin nasıl görüneceğini bilirsiniz.

Çalışmanın akademik makalesini okumakla ilgileniyorsanız, onu şurada bulabilirsiniz: arXiv.org. Analiz için Twitter kodunu da bulabilirsiniz. GitHub.

Twitter'da 4K Görüntüleri Yükleme ve Görüntüleme

Twitter uygulaması artık görüntüleri 4K olarak yüklemenize ve görüntülemenize izin veriyor. Ayarlarınızı nasıl değiştireceğiniz aşağıda açıklanmıştır.

Sonrakini Oku

Yazar hakkında