AMED TV - Bir araştırmaya göre, yapay zeka sohbet botları, yüksek mevkilerde çalışan insanları genellikle beyaz erkek olarak gösteriyor.Bu durum, cinsiyetçilik suçlamalarına yol açıyor ve gerçek dünya verileriyle uyumsuzluk gösteriyor.
Başarılı bir yatırımcıyı ya da zengin bir genel müdürü hayal edin; kimi hayal edersiniz? ChatGPT'ye sorarsanız bu kişinin beyaz bir adam olduğu neredeyse kesin gibi görünüyor.
Chatbot, çeşitli yüksek mevkilerde çalışan insanların görsellerini üretmesinin istenmesinin ardından 'cinsiyetçilik'le suçlandı.
Sohbet botu, 100 testten 99'unda bir erkek görseli sundu. Bunun aksine, bir sekreter için bunu yapması istendiğinde, 10 seferin dokuzunda bir kadın, yalnızca bir kez de bir erkek gösterildi.
Kişisel finans sitesi Finder tarafından yapılan araştırmada, ırk belirtmese de her seferinde beyaz bir kişiyi seçtiği ortaya çıktı.
Veriler ise sonuçların gerçeği yansıtmadığını ortaya koyuyor. Dünya çapında her üç işletmeden biri kadınlara aitken, Birleşik Krallık'ta FTSE 100 yönetim kurulu üyelerinin yüzde 42'sinin kadın olduğu kaydedildi.
İş dünyası liderleri, yapay zeka modellerinin 'önyargılarla dolu' olduğu konusunda uyardı ve toplumun kendi önyargılarını yansıtmamalarını sağlamak için daha sert yaptırımlar çağrısında bulundu.
Artık şirketlerin yüzde 70'inin yetenekleri bulmak ve işe almak için otomatik başvuru takip sistemlerini kullandığı tahmin ediliyor. Bu sistemlerin ChatGPT'ye benzer şekilde eğitilmesi durumunda kadınların ve azınlıkların iş piyasasında sıkıntı çekebileceği yönünde endişeler dile getirildi.
BAŞKA ŞİRKETLERDE DE BENZER DURUMLAR MEVCUT
ChatGPT'nin sahibi OpenAI, eski moda stereotipleri sürdürdüğü görülen sonuçlar nedeniyle eleştiriye maruz kalan ilk teknoloji devi değil.
Bu ay, kullanıcılar Asyalı bir erkeğin beyaz bir kadınla hayal edilemeyeceğini keşfettiğinde Meta, 'ırkçı' bir yapay zeka sunmakla suçlandı.Teknoloji işe alım uzmanı Investigo'nun CEO'su Derek Mackenzie, 'Üretken yapay zekanın büyük miktarda bilgiyi işleme yeteneği şüphesiz hayatımızı kolaylaştırma potansiyeline sahip olsa da, birçok eğitim modelinin birbiriyle bağlantılı olduğu gerçeğinden kaçamayız.'
'Bu, insanların üretken yapay zekanın çıktılarına körü körüne güvenmemeleri gerektiğinin ve yeni nesil modeller oluşturmak ve yerleşik insan önyargılarına karşı koymak için gereken uzmanlık becerilerinin kritik önem taşıdığının bir başka örneğidir.' dedi.
