Yapay zeka kadına şiddetle mücadelede işe yarayabilir mi?

Kendi ailesinde yaşanan korkunç bir cinayet, Leonora Tima'yı insanların, çoğunlukla da kadınların, şiddeti konuşabileceği ve takip edebileceği dijital bir platform yaratmaya yöneltti.

Amacı, destek sunmak ve mağdurların, ileride istismarcılara karşı açılabilecek davalarda kullanılabilecek kanıtları toplamalarına yardımcı olmaktı.

Leonora'nın akrabası öldürüldüğünde sadece 19 yaşındaydı ve dokuz aylık hamileydi.

2020 yılında Güney Afrika'nın Cape Town kenti yakınlarında, cesedi bir otoyol kenarına atılmış halde bulundu.

"Ben kalkınma sektöründe çalışıyorum, dolayısıyla şiddeti gördüm" diyen Leonora'yı asıl sarsan şey ise ailesinden birinin vahşi bir şekilde öldürülmesinin Güney Afrika toplumunda son derece normal karşılanması oldu.

"Onun ölümü hiçbir haber kuruluşunda yer almadı çünkü ülkedeki bu tür vakaların sayısı o kadar fazla ki, artık haber değeri taşımıyor."

Katil hiçbir zaman yakalanmadı.

Leonora için bir kadının öldürülmesinin sessizce kabullenilmesi, kendi uygulaması olan "Gender Rights in Tech" (Teknolojide Toplumsal Cinsiyet Hakları; kısaca Grit) için bir dönüm noktası oldu.

Bu telefon uygulaması Zuzi adlı bir sohbet robotunu da barındırıyor.

Uygulama, toplumsal cinsiyete dayalı şiddeti ele almak için Afrikalı yazılımcılar tarafından geliştirilen ilk ücretsiz yapay zeka araçlarından biri.

Amaç, mağdurlara destek sunmak ve daha sonra istismarcıların aleyhine açılacak davalarda kullanılabilecek kanıtların toplanmasına yardımcı olmak.

Bu girişim, uluslararası kadın hakları aktivistlerinin ilgisini çekse de, bazıları sohbet robotların insan desteğinin yerini almaması gerektiği konusunda uyarıda bulunuyor.

Bu nedenle mağdurların sadece eğitimli bir profesyonelin sağlayabileceği desteğe ihtiyaç duyduğunu vurguluyor.

'Sistem mağdurları iki kez yüzüstü bırakıyor'

Leonora ve küçük ekibi, Cape Town çevresindeki gecekondu mahallelerinde yaşayan insanlarla görüşerek şiddet deneyimlerini ve teknolojiyi yaşamlarına nasıl dâhil ettiklerini anlamaya çalıştı.

Telefonlarını ve sosyal medyayı şiddet hakkında konuşmak için nasıl kullandıklarını ve neden yardım aramadıklarını öğrenmek üzere 800'den fazla kişiyle görüştüler.

İnsanların yaşadıkları istismarı konuşmak istediklerini, ancak "polise başvurmak gibi geleneksel yollar konusunda temkinli olduklarını" fark etti.

Leonora, "Bazı kadınlar Facebook'ta yaşadıklarını paylaşıyorlardı. Hatta istismarcılarını da etiketliyorlardı. Ama sonra hakaret davası açıldığını gördüler" diyor.

Ona göre mevcut sistemler mağdurları iki kez yüzüstü bırakıyordu: İlki, şiddeti önleyemeyerek; ikincisi ise mağdurlar seslerini yükseltmeye çalıştığında onları susturarak.

Mozilla, Gates Vakfı ve Patrick McGovern Vakfı'ndan alınan finansal ve teknik destekle Leonora ve ekibi, insanların şiddeti kaydedebileceği, bildirebileceği ve olay anında yardım alabileceği mobil bir uygulama olan Grit'i geliştirmeye başladı.

Uygulama ücretsiz, ancak indirmek için mobil veri gerekiyor.

Leonora'nın ekibi, 13 bin kullanıcısı olduğunu ve sadece eylül ayında yaklaşık 10 bin yardım talebi aldıklarını söylüyor.

Grit üç temel özellikle çalışıyor.

Ana ekranda büyük, dairesel bir yardım butonu var. Buna basıldığında, cihaz otomatik olarak 20 saniyelik bir ses kaydı başlatıyor ve aynı anda özel bir hızlı müdahale çağrı merkezine uyarı gönderiyor.

Güney Afrika'da bu tür profesyonel müdahale ekipleri oldukça yaygın. Eğitimli bir operatör kullanıcıyı hemen arıyor.

Eğer arayan kişi acil yardıma ihtiyaç duyuyorsa, ekip ya doğrudan olay yerine birini gönderiyor ya da mağdura yakın bir bölgede çalışan bir kurumu devreye sokuyor.

Leonora'ya göre uygulama, istismar mağdurlarının ihtiyaçları düşünülerek tasarlandı:

"İnsanların güvenini kazanmamız gerekiyor. Çünkü bu, çoğu zaman görmezden gelinen topluluklardan veri paylaşmalarını istemek anlamına geliyor."

Yardım özelliğinin kötüye kullanılıp kullanılmadığı sorulduğunda, Leonora birkaç "meraklı deneme" dışında ciddi bir suistimal olmadığını söylüyor:

"İnsanlar temkinli. Bizi test ediyorlar, biz de teknolojiyi test ediyoruz."

Grit'in ikinci bölümü ise "kasa". Kullanıcıların istismar kanıtlarını tarihli ve şifreli şekilde saklayabilecekleri güvenli bir dijital alan.

Fotoğraflar, ekran görüntüleri ve ses kayıtları yüklenip özel olarak korunabiliyor.

Bu sayede, gelecekteki yasal süreçlerde kullanılabilecek önemli kanıtlar kaybolmuyor ya da silinmiyor.

Leonora, bazen kadınların yaralarının fotoğraflarını çekmesine ya da tehdit mesajlarını kaydetmesine karşılık bunların kolayca kaybolabildiği veya silinebildiğini söylüyor.

"Kasa sayesinde bu kanıtlar, alınabilecek ya da yok edilebilecek bir telefonda kalmıyor" diyor.

Bu ay, Grit üçüncü özelliğini de devreye sokuyor: Yapay zekâ destekli bir sohbet robotu olan Zuzi.

Zuzi'nin görevi, kullanıcıları dinlemek, onlara yol göstermek ve yerel destek ağlarına yönlendirmek.

Leonora, "Bir kadın mı olmalı? Bir erkek mi? Bir robot mu? Bir avukat gibi mi konuşmalı, bir sosyal hizmet uzmanı ya da bir gazeteci gibi mi?" yönündeki soruları kullanıcılarına ilettiklerini söylüyor.

İnsanlar ise Zuzi'nin "teyze figürü" gibi olmasını istemiş. Yani sıcak, güven veren, yargılamadan dinleyen bir ses.

Uygulama her ne kadar öncelikle şiddet yaşayan kadınlar için geliştirilmiş olsa da test sürecinde erkekler tarafından da kullanılmış.

"Bazı konuşmalar istismarcılardan geliyor" diyor Leonora.

"Öfke sorunlarıyla nasıl başa çıkabileceklerini, partnerlerine zarar vermemeyi nasıl öğrenebileceklerini soruyorlar. Şiddet gören erkekler de Zuzi aracılığıyla yaşadıklarını daha açık konuşabiliyor."

İnsanların yapay zekâyla konuşmayı sevdiğini çünkü yargılanmadıklarını hissettiklerini dile getiren Leonora, "Karşında bir insan yok" diyor.

BM Kadın Birimi, Güney Afrika'nın dünyada toplumsal cinsiyet kaynaklı şiddet (GBV) oranlarının en yüksek olduğu ülkelerden biri.

Bu verilere göre ülkedeki kadın cinayetlerinin oranı küresel ortalamanın beş katı.

Güney Afrika polisi verilerine göre, 2015 ile 2020 yılları arasında her gün ortalama yedi kadın öldürüldü.

Güney Afrika'da toplumsal cinsiyete dayalı şiddet üzerine çalışan uzman Lisa Vetten, teknolojinin bu konuda kaçınılmaz bir rol oynayacağını kabul ediyor.

Ancak travma merkezli destek süreçlerinde yapay zeka kullanımına temkinli yaklaşıyor.

Bu gibi araçlara "yapay zeka" adlandırmasından ziyade "büyük dil modelleri" olarak nitelendiren Vetten, "Çünkü yaptıkları şey aslında sadece dil analizi ve tahmin" diyor.

Yapay zeka sistemlerinin yardımcı olabileceğini kabul etse de bazı sohbet robotlarının kadınlara yanlış hukuki tavsiyeler verdiği örnekler bildiğini söylüyor.

Vetten, "Kadınlara hukuki sorunlarında son derece emin bir ses tonuyla yanlış bilgiler verilmesinden endişe duyuyorum" diyor.

"Sohbet robotları faydalı bilgiler sunabilir ama karmaşık, çok yönlü zorluklarla baş edemezler. En önemlisi, insan danışmanlığının yerini tutamazlar. Zarar gören insanların yeniden güven duymayı ve diğer insanlarla kendilerini güvende hissetmeyi öğrenmeleri gerekir."

Grit'in yaklaşımı uluslararası ilgi gördü.

Ekim ayında Leonora ve ekibi, Fransız hükümetinin Paris'te düzenlediği Feminist Dış Politika Konferansı'nda uygulamalarını tanıttı.

Konferansta, 31 ülke toplumsal cinsiyete dayalı şiddetle mücadeleyi bir politika önceliği haline getirme sözü verdi.

Feminist Dış Politika Kolektifi'nin kurucusu ve CEO'su Lyric Thompson, "Yapay zeka hakkında çokça konuşuluyor ama konuya toplumsal cinsiyet boyutunu eklemeye kalktığınız anda, ırkçı, cinsiyetçi veya yabancı düşmanı önyargıların sisteme gömülü olma tehlikesini dile getirdiğinizde, gözler bir anda boşluğa dalıyor. Sohbet genelde kadınların olmadığı bir köşede devam ediyor" diyor.

Chatham House'ta yapay zeka ve teknoloji üzerine çalışan uzman Heather Hurlburt da benzer görüşte:

"Yapay zeka, toplumsal cinsiyet ayrımcılığını ve şiddeti tespit edip ortadan kaldırmak için muazzam bir potansiyele sahip. Ama aynı zamanda kadın düşmanlığını ve eşitsizliği pekiştirme riski de taşıyor. Hangi yöne gideceğimiz tamamen bize bağlı."

Leonora ise yapay zekanın toplumsal cinsiyete dayalı şiddetle mücadelede başarılı olmasının sadece mühendislik becerisine değil, teknolojiyi tasarlayanların kim olduğuna bağlı olduğunu söylüyor.

Dünya Ekonomik Forumu'nun 2018 raporuna göre, dünyadaki yapay zekâ profesyonellerinin yalnızca yüzde 22'si kadındı ve bu oran hâlâ değişmiş değil.

"Bugünkü yapay zeka, tarihsel olarak erkeklerin, özellikle beyaz erkeklerin, sesini merkeze alan verilerle inşa edildi" diyor Leonora.

"Çözüm yalnızca daha fazla kadın geliştiriciye sahip olmakla ilgili değil. Renkli kadınların, küresel güneyden gelenlerin ve sosyoekonomik açıdan daha az ayrıcalıklı geçmişlere sahip yaratıcıların da dahil olması gerekiyor."

Leonora Tima sözlerini şöyle bitiriyor:

"Ancak o zaman teknoloji, gerçekten onu kullanan insanların yaşamlarını temsil etmeye başlayabilir."

Bu haber, BBC gazetecileri tarafından hazırlandı ve kontrol edildi. Bir pilot proje kapsamında çevirisi için yapay zekadan da faydalanıldı.