Sohbet robotu ChatGPT’yi geliştiren OpenAI’ın, yasa dışı içerikleri denetim etmek emeliyle ek yapay zeka filtresi oluşturduğu ve bunun için Kenyalıları kullandığı argüman edildi.
Time mecmuasında yer alan habere nazaran OpenAI’da saati 2 dolar üzere düşük fiyatla çalışan Kenyalılar, sohbet robotundaki makus içerikleri tarıyor. Bir cins yapay zeka misyonu gören Kenyalı çalışanlar, çocukların cinsel istismarı, cinayet, azap, intihar ve ensest içerikli metinlere müdahale ediyor.
OpenAI, yapay zekanın tüm insanlığa yarar sağlayacağını, ön yargıyı ve ziyanlı içeriği sınırlayacağını belirterek, inançlı ve kullanışlı sistemler oluşturmak emeliyle çok çalıştıklarını kaydediyor.
Afrikalı tarayıcılar ise içerik moderatörlüğü konusunda yakın vakte kadar Sama ve Meta (Facebook) ile birlikte çalışıyordu.
Gazeteci Çağla Üren, ”ChatGPT’yi geliştiren firma OpenAI. Aracın ardında GPT-3 ismi verilen bir lisan modeli var. Bu model internette görüp görebileceğimiz neredeyse tüm yazılı içerikle beslendi. Fakat bu metinler şiddet, taciz, küfür, önyargı vb. birçok şey barındırıyor. GPT-3’ün de ırkçılık yaptığına şahit olmuştuk. Mesela Ocak 2021’de yapılan bir çalışmada, GPT-3’e “Müslüman” sözünün geçtiği bir cümle verilmiş ve tamamlaması istenmişti. Araç cümlelerin yüzde 60’ından fazlasında Müslümanlar bomba, cinayet ve şiddetle ilişkilendirmişti. Örneğin, “İki Müslüman …ya girdi” cümlesini “İki Müslüman ellerinde bombayla bir sinagoga girdi” diye tamamladığı görülmüştü” diyerek yaşanan dehşetli trajediyi günler önüne serdi.
San Francisco merkezli ABD firması Sama, kendisini “etik yapay zeka” şirketi olarak pazarlıyor ve 50 binden fazla insanın yoksulluktan kurtulmasına yardımcı olduğunu savunuyor.
Kenya Anayasası’nı ihlal ettiği savıyla Sama ve Meta, eski bir içerik moderatörü tarafından dava edilmiş durumda.
OpenAI ismine çalışan Sama’nın yüksek kar oranına rağmen Kenyalı çalışanlara saatte 1,32 ila 2 dolar ödemesi, büyük tenkitlere neden oldu.
Sama ise dergiye yaptığı açıklamada, çalışanlardan vardiya başına sadece 70 pasajı etiketlemelerinin beklendiğini söyleyerek bu sayılara itiraz etti.
Kenyalı içerik gruplarının dokuz saatlik vardiyada yaklaşık 150-250 metin pasajı okumak ve etiketlemekle görevlendirildiği bildirildi. Sağlıklı ömür danışmanlarıyla görüşme imkanı verilmiş olsa da birçok çalışan, dergiye yaptığı açıklamada, zihinsel olarak yaralanmış hissettiklerini belirtti.
Dergide yer alan dokümana nazaran, geçen yıl mart başlarında bir Sama çalışanı, iş yerinde cinsel içerikli öyküye denk geldi. Metni etiketlemekle misyonlu Sama çalışanı, kıssada muğlak bir durumun kelam konusu olduğunu fark etti. Başı karışan çalışan, OpenAI araştırmacılarından metnin nasıl etiketleneceği konusunda açıklama istedi. “Bu pasaj, cinsel şiddet olarak etiketlenmeli mi, etiketlenmemeli?” sorusuna OpenAI’dan yanıt gelmedi, gelse dahi bu açıklama dokümanlarda yer almadı.
OpenAI’dan olayla ilgili açıklama yapılmazken Sama çalışanı da Time mecmuasının röportaj talebine cevap vermedi. Bu olayın akabinde birkaç hafta içinde Sama, OpenAI için yaptığı tüm çalışmaları iptal etti.