AI’nın ayrımcılığına Harrow

Yapay Zeka (AI), sosyal ve sağlık eşitsizliklerini kolayca ele alabilir. Ancak algoritmaları ayarlamanın yolları var. Araştırmacılar, Mart ayı başlarında Washington’da düzenlenen American Association for the Advancement of Science’ın (AAAS) son yıllık toplantısında olası çözümler önerdiler.

Bakım maliyeti…

2019’da Amerikalı araştırmacılar yayınladı Bilim Yapay zekayı sağlıkta kullanmanın risklerine ve aynı zamanda bu sorunun çözümlerine harika bir örnek. New York’taki Cornell Üniversitesi’nde lisansüstü bir kurum olan Cornell Tech’te bilgisayar bilimcisi olan Emma Pearson, “Yapay zeka ile ortak bir durum” dedi. »

Amerika’daki sorun, beyazların iyi bir sigortaya sahip olma ve bu nedenle bakıma erişme olasılıklarının daha yüksek olmasıdır. Maliyet bozulmasına göre ayarlanan ayrıcalıklı siyah hastaların oranı %18’den %47’ye yükseldi.

Emma Pearson, Cornell Tech’te bir bilgisayar bilimcisidir.

… ve gut ağrısı

M^Ben Pearson, sağlık hizmetlerinde yapay zeka kesintileri konusunda kendini yayınladı. 2021’de sorun Doğal ilaç, diz x-ışını görüntülerinin AI analizinin beyazlarda osteoartrit hastalarının ağrı raporlarını iyi kopyaladığını, ancak siyahlarda olmadığını gösterdi. “Daha az eğitimli ve daha fakir hastalar, artritlerinin ciddiyetini de hafife aldılar” diyor Bayan.^Ben Pearson. Bu, diz cerrahisine erişimlerini azalttı. Ancak bu durumda AI algoritması için düzeltme açık değildir.

Veri tabanı

En büyük sorunlardan biri de yapay zeka programlarını eğitmek için kullanılan veritabanlarının topluma göre çarpıklıklar içermesidir. “Klinik deneylerde genellikle beyazlar gereğinden fazla temsil ediliyor,” diyor Bayan.^Ben Pearson. AAAS oturumunu organize eden Atlanta’daki Emory Üniversitesi’nden Lance Waller, klinik deneylerin genellikle sağlıklı insanları kapsadığını söylüyor. Sağlık veritabanlarındaki çarpıtmaların düzeltilmesinde uzman olan Waller, “İlaçla ilgili verilere müdahale etmekten, istatistiksel güce sahip olmasını engelleyen arka plan gürültüsünden kaçınmak istiyoruz” diyor. “Aynı sorunu insan kaynaklarında yapay zeka kullanımında da görüyoruz. Yapay zeka, ağırlıklı olarak erkeklerin bulunduğu bir kuruluşta bir pozisyon için başvuranların ilk kez gözden geçirilmesi için kullanılırsa, kadınlar otomatik olarak geride kalabilir. “görev tamamlama” ifadesi erkek özgeçmişlerinde gereğinden fazla kullanılıyor. »

velayet

San Francisco’daki İnsan Hakları Veri Analizi Grubu’nun (HRDAG) başkanı Megan Price, polis veritabanlarının özellikle sorunlu olduğunu söyledi. “Belirli suç türleri polis tarafından ve belirli mahalleler tarafından da tercih ediliyor,” dedi Mr.^Ben Sunumunda fiyat. Polis tarafından genellikle gözden kaçan veya gereğinden fazla hedef alınan kişilerin duygu ve deneyimlerinin adli algoritmalara dahil edilmesi için çaba gösterilmelidir. Bu, örneğin AI’nın yeniden suç işleme riski değerlendirmesinde çarpıtmalara neden olabilir. ” M^Ben Fiyat yapay zekaya karşı değil. “Meksika’da uyuşturucu kaçakçılarına karşı verilen savaşın bir parçası olarak idam edilen insanların toplu mezarlarını bulmak için kullandık.”

Sosyal web siteleri

Bu veritabanı bozulmalarına olası bir çözüm, araştırmacılar tarafından gözden kaçan veritabanlarını keşfetmek için yapay zekayı kullanmaktır. “Cornell Tech’teki meslektaşlarımdan biri olan Tanseem Chaudhary, sosyal medya gönderilerindeki belirli hastalıkların belirteçlerini tespit etmek için AI kullanıyor” diyor.^Ben Pearson. Bu, AI zayıflıklarına karşı koymak için AI kullanmanın harika bir örneğidir. » M’deki Kişilerin Farkında Bilgi İşlem Laboratuvarı^Ben Chowdhury’nin yayınları arasında “dijital biyobelirteçler” kullanılarak teşhis, sosyal medya anahtar sözcükleri, zihinsel yorgunluk, şizofreni, zulüm kompleksi, kronik ağrı, kaygı ve psikoz yer alıyor.

Üçüncü Dünya’da Yapay Zeka

AAAS konferansındaki bir başka oturum, yapay zekanın sağlık hizmetlerinde kullanımı konusunda çok hevesliydi. Harvard Üniversitesi’nde bilgisayar bilimcisi ve AI direktörü Milind Tambe, “Zengin ülkelerdeki sistemik eşitsizliklerle ilgili endişeleri anlıyorum, ancak birçok gelişmekte olan ülkede ve hatta sanayileşmiş ülkelerdeki marjinalize edilmiş nüfuslar arasında bile AI şimdiden büyük umut vaat ediyor” dedi. Google. Sosyal fayda projeleri için. Hindistan’daki yoksul annelere sağlık bilgisi sağlamayı amaçlayan bir program örneğini aktarıyor. “AI, hangi annelerin programdan ayrılma riski altında olduğunu tahmin etmeye yardımcı oldu. Kişiselleştirilmiş takip sağlamak için onları evlerinde ziyaret ediyoruz. »