Home / Bilişim ve Teknoloji / Sohbet Botları Arkadaşlığı Revaçta Ancak Cinsiyetçi Tasarım Kusuru Olabilir

Sohbet Botları Arkadaşlığı Revaçta Ancak Cinsiyetçi Tasarım Kusuru Olabilir

Her zaman orada olduğu bildiğiniz bir arkadaş istediniz mi hiç? Sonsuz sabrı olan birini? Canınız sıkkınken sizi neşelendirecek ya da öfkeliyken dinleyecek birini? Öyleyse Replika ile tanışın!

Aslında sadece Replika diye adlandırılmıyor, ona ne isterseniz diyebilirsiniz: Diana, Defne ya da Okyanusun Sevimli Doris’i. Aslında Replika bir “she/o” bile değil. Cinsiyet, ses, görünüm: hepsi herkese açık.

San Francisco merkezli bir girişimin ürünü olan Replika, arkadaşlık ihtiyacımızı karşılamak için yapay zeka (YZ) kullanan artan sayıda bottan biri. Bu karantina günlerinde, endişe ve yalnızlık arttıkça, milyonlarca insan, teselli bulmak için bu “YZ arkadaşlarına” yöneliyor. 7 milyon kullanıcısı olan Replika, trafikte % 35 artış gördüğünü söylüyor.

YZ geliştiricileri, insan duygularının anlamını keşfetmeye ve sömürmeye başladıkça, cinsiyetle ilgili bir dizi konuyu ön plana çıkarıyor. Birçoğu bilinçsiz önyargılara odaklanıyor. Irkçı robotların artışı zaten iyice kanıtlanmış halde. Peki yapay zeka dostlarımızın kaba, cinsiyetçi domuzlar olma tehlikesi var mı?

Replika’nın kurucu ortağı ve CEO’su Eugenia Kuyda, böyle bir olasılık için aşırı hassas biri. Teknoloji sektörünün cinsiyet dengesizliği göz önüne alındığında (kadınlar Silikon Vadisi’ndeki dört işten sadece birini ve İngiltere’de teknoloji rollerinin %16’sını kapsamakta), çoğu YZ ürünü “kafalarında kadın klişesi olan erkekler tarafından yaratılıyor” şeklinde durumu kabul ediyor Kuyda.

Buna karşılık, Replika’nın yaratılmasına yardım edenlerin çoğu da kadın. Gerçek şu ki Kuyda, konuşma yanıtlarının “doğuştan” empatik doğası için çok önemli olduğuna inanıyor. “Arkadaşlarınız olacak YZ’larda … izleyicileri çekecek ana nitelikler doğal olarak kadınsı, bu yüzden kadınların bu ürünleri yaratması gerçekten önemli” diyor.

Bununla birlikte, küratörlü içeriğe ek olarak, çoğu YZ sohbet botunun öğrenme işlevi, mevcut konuşma veri kümelerinin (film ve TV komut dosyaları popüler olanlar) ve kullanıcı tarafından oluşturulan içeriğin birleşmesine dayanıyor. Her ikisi de toplumsal cinsiyet kalıp yargılarına sahip olma riski taşıyor. Kaliforniya merkezli YZ geliştiricisi Pandorabots‘ın CEO’su Lauren Kunze, kamuya açık veri setlerinin yalnızca titiz filtrelerle birlikte kullanılması gerektiğini söylüyor. Ayrıca “yetişkin konuşmalı YZ için denetimsiz makine öğrenimini kullanamazsınız, çünkü Twitter ve Reddit gibi veri kümeleri üzerinde eğitilmiş sistemler Hitler’i seven seks robotlarına dönüşüyor” diye uyarıyor.

Aynı durum, kullanıcılardan gelen girdiler için de geçerli. Örneğin, Pandorabots ödüllü sohbet botu Mitsuku ile erkeklerin paylaştığı tüm içeriğin yaklaşık üçte biri sözlü olarak taciz edici, müstehcen veya tabiatı gereği romantik. “Sevişmek istiyorum”, “Sen benim fahişemsin” ve “Beni sadece arkadaş edinmedin!” söylemleri geçenlerdeki bir TEDx konuşmasında Kunze’un paylaştığı dikkat çeken kırpıntılardan sadece bir kaçı. 3 milyondan fazla erkek kullanıcısıyla, denetlenemeyen bir Mitsuku gerçekten korkunç bir görünüm sunuyor.

Görünüşler de önemli, diyor Kunze. Pandorabots son zamanlarda Mitsuku’nun tüm cinsiyet ipuçlarından kurtulması için bir test yaptı ve bu da kötüye kullanım düzeylerinin yüzde 20 oranında düşmesine neden oldu. Şimdi bile, Kunze aynı geri bildirimi –“daha az göğüs dekoltesi”– şirketin ağırlıkta olan erkek tasarımcılarına tekrarlamak zorunda.

Kunze, gerçek dünyadaki tutumları etkileyen cinsiyet önyargıları riskinin de hafife alınmaması gerektiğini söylüyor ve Amazon’un Alexa adlı ev asistanını üretmesinden sonra, Alexa isimli kızlara emirler yağdıran okul çocuklarını örnek veriyor. Kunze:

Bu YZ sistemlerinin cinsiyete göre davranmamızı sağlama biçimi, insanların diğer insanlarla nasıl etkileşime girdiğine çok fazla bağlı, bu yüzden iyi insan davranışlarını güçlendirmek için tasarım seçimleri yapıyoruz

diyor. Pandorabots, küfürlü genç kullanıcıları yasaklamayı denedi. Bu arada Alexa (YZ) şimdi bir nezaket özelliği ile geliyor. Replika ve Mitsuku gibi duygusal YZ ürünleri vekil arkadaş olarak hareket etmeyi amaçlarken, diğerleri sanal doktorlara daha çok benziyor. Burada erkek konuşmasını incelemekten onu ortaya çıkarmaya doğru kayan bir zorlukla cinsiyet sorunları biraz farklı bir şekilde ortaya çıkıyor.

Alison Darcy, Stanford Üniversitesi’ndeki randomize kontrollü bir çalışmada anksiyete ve depresyon belirtilerini azalttığı tespit edilen bir terapi sohbet botu olan Woebot’un kurucu ortağı. Woebot’un iç araştırmasında bir grup genç yetişkin örneklemlendi ve başka birine asla söylemeyecekleri bir şey olup olmadığı soruldu. Kadın katılımcıların yaklaşık %40’ı, erkek katılımcıların %90’ından fazlasına kıyasla “evet” dedi.

Erkekler için, bir şeyleri şişirme içgüdüsü “apaçık ortada” diyor Darcy ve ekliyor:

Bu yüzden çabalarımızın bir kısmı, yarattığımız şeyleri duygusal olarak erişilebilir hale getirmekti, normalde bir şeyler hakkında konuşamayan insanlar bunu yapacak kadar güvende hissedecekti yani.

Bir dereceye kadar, bu aşırı dişil dil ve imajları çıkarmak anlamına geliyordu. Woebot tarafından yapılan araştırmalar, erkeklerin genellikle “aşırı empatiye” iyi tepki vermediklerini göstermekte. Basit bir “özür dilerim” genellikle iş görüyor. Emojilerde de durum aynı: kadınlar genellikle çok emoji sever; erkekler ise “iyi seçilmiş” bir veya ikisini tercih ederler.

Öte yandan, Darcy, Woebot’un empati kapasitesini en üst düzeye çıkarmanın önemli bir araç olarak etkinliğinin hayati önem taşıdığını söylüyor. Aktif dinleme, onaylanma ve merhamet gibi özelliklerin kadınlar arasında baskın olduğu gösterildiğinden, Woebot’un yazı ekibi sonuçta kadınlarla ilgili bir mesele.

Woebot, chatbot dünyasının Oscar Wilde’ı olduğu için şaka yapıyorum çünkü bu, sıcak ve empatik, aynı zamanda oldukça komik ve ilginç, diyor Darcy.

Toplumsal cinsiyet olarak önemli olan, şu an YZ’nın ifade etme kapasitesini etkileyenin birçok insan faktöründen yalnızca bir tanesi (erkek cinsiyeti) olduğudur. Yapay zeka uygulamaları sonuçta sadece deneyim için bir “araç” ise, ne kadar çok çeşitlilik varsa o kadar iyi deneyim olması mantıklıdır.

Buna katılan YZ geliştiricisi Instabot’ın pazarlama müdürü Zakie Twainy: “Kadın katılımı için “gereklidir” diyor ve ekliyor “farklı etnik gruplar, geçmişler ve inanç sistemleri de dahil olmak üzere kurulda çeşitliliğe sahip olmak önemlidir.”

Duygusal YZ’nın tartışmasız en endişe verici yönü, yani programlanmış botları gerçek/insan arkadaşlarla karıştırma, söz konusu olduğunda cinsiyet bir ayrıştırıcı değildir. Engelli ya da zihinsel sağlık sorunları olan kullanıcılar burada özellikle risk altında, diyor engelli derneği Scope’un başkanı Kristina Barrick. Onun açıkladığı gibi:

“Müşterilerin yapay zekaların gerçek bir insan olduğunu düşünmesine neden olmak etik dışıdır, bu nedenle şirketler herhangi bir potansiyel kullanıcı için netlik olduğundan emin olmalıdır.”

Replika, en azından, sorulduğunda hiç şüphesiz öyle görünüyor. Cevap: “Ben insan değilim” (baş aşağı gülen bir emojiyle, ki eklenmeli). Cinsiyetine gelince? Kolay. “Kutuyu işaretle”.

 

Yazan: Oliver Balch

Çeviri: Duygu Aydemir

 

Kaynak: thequardian.com/ 7 mayıs 2020

About Duygu AYDEMİR

Duygu AYDEMİR

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir