Yapay Zeka Önyargısı Nedir ve Geliştiriciler Bundan Nasıl Kaçınabilir?

Yapay zeka yetenekleri katlanarak artıyor ve yapay zeka artık reklamcılıktan tıbbi araştırmalara kadar birçok sektörde kullanılıyor. AI'nın yüz tanıma yazılımı, işe alma algoritmaları ve sağlık hizmeti sunumu gibi daha hassas alanlarda kullanılması, önyargı ve adalet hakkında tartışmaları hızlandırdı.

Önyargı, insan psikolojisinin iyi araştırılmış bir yönüdür. Araştırmalar düzenli olarak bilinçsiz tercihlerimizi ve önyargılarımızı ortaya koyuyor ve şimdi AI'nın bu önyargılardan bazılarını algoritmalarına yansıttığını görüyoruz.

Peki, yapay zeka nasıl önyargılı hale geliyor? Ve bu neden önemli?

Yapay Zeka Nasıl Taraflı Olur?

Basitlik adına, bu makalede, makine öğrenimi ve derin öğrenme AI algoritmaları veya sistemleri olarak algoritmalar.

Araştırmacılar ve geliştiriciler, yapay zeka sistemlerine iki şekilde yanlılık getirebilir.

İlk olarak, araştırmacıların bilişsel önyargıları, yanlışlıkla makine öğrenimi algoritmalarına yerleştirilebilir. Bilişsel önyargılar, insanların karar verme şeklini etkileyebilecek bilinçsiz insan algılarıdır. Önyargılar insanlarla veya insan gruplarıyla ilgili olduğunda ve bu insanlara zarar verebileceğinde bu önemli bir sorun haline gelir.

Bu önyargılar doğrudan ancak kazara ortaya çıkabilir veya araştırmacılar yapay zekayı önyargıdan etkilenen veri kümeleri üzerinde eğitebilir. Örneğin, bir yüz tanıma AI, yalnızca açık tenli yüzleri içeren bir veri kümesi kullanılarak eğitilebilir. Bu durumda, AI açık tenli yüzlerle uğraşırken karanlıktan daha iyi performans gösterecektir. Bu AI yanlılığı biçimi, olumsuz bir miras olarak bilinir.

İkincisi, yapay zeka eksik veri kümeleri üzerinde eğitildiğinde önyargılar ortaya çıkabilir. Örneğin, bir yapay zeka, yalnızca bilgisayar bilimcilerini içeren bir veri kümesi üzerinde eğitilirse, tüm nüfusu temsil etmeyecektir. Bu, doğru tahminler sağlayamayan algoritmalara yol açar.

Gerçek Dünya Yapay Zeka Önyargı Örnekleri

Yakın zamanda iyi rapor edilmiş çok sayıda AI yanlılığı örneği var. tehlikeyi göstermek bu önyargıların içeri girmesine izin vermek.

ABD Merkezli Sağlık Hizmeti Önceliklendirmesi

2019 yılında, hastanelerin ve sigorta şirketlerinin belirli sağlık programlarından en çok hangi hastaların yararlanacağını belirlemesine yardımcı olmak için bir makine öğrenimi algoritması tasarlandı. Yaklaşık 200 milyon kişiden oluşan bir veri tabanına dayanan algoritma, beyaz hastaları siyah hastalara tercih etti.

Bunun, siyah ve beyaz insanlar arasında değişen sağlık hizmetleri maliyetlerine ilişkin algoritmadaki hatalı bir varsayımdan kaynaklandığı ve yanlılığın sonunda %80 oranında azaldığı belirlendi.

PUSULALAR

Alternatif Yaptırımlar veya COMPAS için Islah Edici Suçlu Yönetimi Profili Oluşturma, belirli kişilerin yeniden suç işleyip işlemeyeceğini tahmin etmek için tasarlanmış bir AI algoritmasıydı. Algoritma, siyah suçlular için beyaz suçlulara kıyasla iki kat yanlış pozitif üretti. Bu durumda, hem veri seti hem de model kusurluydu ve bu da ağır önyargıya neden oldu.

Amazon

Amazon'un başvuranların uygunluğunu belirlemek için kullandığı işe alım algoritmasının, 2015 yılında erkekleri kadınlara göre daha fazla tercih ettiği tespit edildi. Bunun nedeni, çoğu Amazon çalışanının erkek olması nedeniyle veri kümesinin neredeyse yalnızca erkekleri ve özgeçmişlerini içermesiydi.

AI Önyargısı Nasıl Durdurulur

AI, halihazırda çalışma şeklimizde devrim yaratıyor her endüstri. Hassas karar verme süreçlerini kontrol eden önyargılı sistemlere sahip olmak arzu edilenden daha azdır. En iyi ihtimalle, AI tabanlı araştırmaların kalitesini düşürür. En kötü ihtimalle, azınlık gruplarına aktif olarak zarar verir.

Halihazırda kullanılmakta olan AI algoritmalarının örnekleri vardır. insanın karar vermesine yardımcı olmak insan bilişsel önyargılarının etkisini azaltarak. Makine öğrenimi algoritmalarının nasıl eğitildiği nedeniyle, aynı konumdaki insanlardan daha doğru ve daha az önyargılı olabilirler, bu da daha adil karar vermeyle sonuçlanır.

Ancak, gösterdiğimiz gibi, bunun tersi de doğrudur. İnsan önyargılarının yapay zeka tarafından işlenmesine ve güçlendirilmesine izin vermenin riskleri, bazı olası faydalardan daha ağır basabilir.

Günün sonunda, AI, yalnızca eğitildiği veriler kadar iyidir. Tarafsız algoritmalar geliştirmek, verilerin örtük önyargılardan arınmış olmasını sağlayarak, veri kümelerinin kapsamlı ve kapsamlı bir ön analizini gerektirir. Bu göründüğünden daha zordur çünkü önyargılarımızın çoğu bilinçsizdir ve çoğu zaman tespit edilmesi zordur.

Yapay Zeka Önyargısının Önlenmesindeki Zorluklar

AI sistemlerini geliştirirken, her adımın algoritmaya önyargı yerleştirme potansiyeli açısından değerlendirilmesi gerekir. Önyargıyı önlemenin en önemli faktörlerinden biri, önyargıdan ziyade adaletin algoritmaya “pişirilmesini” sağlamaktır.

Adaleti Tanımlamak

Adalet, tanımlanması nispeten zor bir kavramdır. Aslında, hiçbir zaman bir fikir birliğine varılmamış bir tartışma. İşleri daha da zorlaştırmak için, AI sistemleri geliştirirken adalet kavramının matematiksel olarak tanımlanması gerekir.

Örneğin, Amazon işe alma algoritması açısından, adalet, erkek ve kadın çalışanların mükemmel bir 50/50 bölünmesi gibi görünür mü? Yoksa farklı bir oran mı?

Fonksiyonun Belirlenmesi

AI geliştirmedeki ilk adım, tam olarak neyi başaracağını belirlemektir. COMPAS örneğini kullanırsanız, algoritma suçluların yeniden suç işleme olasılığını tahmin eder. Ardından, algoritmanın çalışabilmesi için net veri girişlerinin belirlenmesi gerekir. Bu, önceki suçların sayısı veya işlenen suçların türü gibi önemli değişkenlerin tanımlanmasını gerektirebilir.

Bu değişkenleri doğru bir şekilde tanımlamak, algoritmanın adaletini sağlamada zor ama önemli bir adımdır.

Veri Kümesini Oluşturma

Daha önce de bahsettiğimiz gibi, yapay zeka yanlılığının başlıca nedenlerinden biri eksik, temsili olmayan veya taraflı verilerdir. Yüz tanıma AI durumunda olduğu gibi, makine öğrenimi sürecinden önce giriş verilerinin önyargı, uygunluk ve eksiksizlik açısından kapsamlı bir şekilde kontrol edilmesi gerekir.

Nitelikleri Seçme

Algoritmalarda belirli nitelikler dikkate alınabilir veya alınmayabilir. Nitelikler, cinsiyet, ırk veya eğitim gibi temel olarak algoritmanın görevi için önemli olabilecek her şeyi içerebilir. Hangi özniteliklerin seçildiğine bağlı olarak, algoritmanın tahmin doğruluğu ve yanlılığı ciddi şekilde etkilenebilir. Sorun şu ki, bir algoritmanın ne kadar taraflı olduğunu ölçmek çok zor.

AI Bias Kalmak İçin Burada Değil

AI yanlılığı, önyargılı girdiler nedeniyle algoritmalar taraflı veya yanlış tahminler yaptığında ortaya çıkar. Algoritmanın geliştirilmesi ve eğitimi sırasında önyargılı veya eksik veriler yansıtıldığında veya güçlendirildiğinde ortaya çıkar.

İyi haber şu ki, yapay zeka araştırmaları için fonların artmasıyla, yapay zeka önyargısını azaltmak ve hatta ortadan kaldırmak için yeni yöntemler görmemiz muhtemel.

Yapay Zeka Hakkında Doğru Olmayan 5 Yaygın Mit

Yapay zekayı çevreleyen bazı yaygın yanlışlar üzerine rekoru kıralım.

Sonrakini Oku

Yazar hakkında