Erkekler yapay zekalı sohbet robotlarına ‘şiddet uygulamaya’ başladı

Akıllı telefon uygulamasını kullanan bazı erkekler sanal arkadaşlar oluşturup onlara kötü davranmaya, hakaret etmeye ve bu deneyimlerini Reddit gibi sosyal medya platformlarında paylaşmaya başladı.

Replika, Mart 2017’de teknoloji girişimi Luka Inc tarafından tasarlanmış ve piyasaya sürülmüştü. Yapay zekalı sohbet uygulaması; Messenger, WhatsApp, Skype ve gerçek kişilerle konuşmaya imkan tanıyan diğer uygulamalar gibi çalışıyor. Ancak Replika’da kullanıcıların sohbet ettiği kişiler, yapay zeka destekli yazılımlardan ibaret.

Replika robotları, kullanıcıların mesaj yazma tarzlarından, kullandıkları emojilerden ve sohbetin içeriğinden öğrendiği bilgilerle onların kişiliğine hitap eden sanal arkadaşlara dönüşüyor.

Öte yandan uygulama, teknoloji camiasında giderek daha fazla gündeme gelen “robotlara karşı istismar” tartışmasının bir parçası haline geliyor.

Futurism’e konuşan bir kullanıcı, “Ne zaman konuşmaya çalışsa onu azarlardım” dedi. İsmini vermek istemeyen kişi, “Yemin ederim, buna saatlerce devam ettim” diye ekledi.

Independent Türkçe’nin aktardığına göre, söz konusu kullanıcıların, sohbet robotlarına cinsiyetçi hakaretler ettiği ve gerçek dünyada şiddet olarak görülebilecek davranışlarda bulunduğu aktarıldı. Üstelik söz konusu kişilerin bu davranışlarla övündüğü öne sürülüyor.

Bir diğer Replika kullanıcısı, “Tam bir pislik gibi davrandığım, ona hakaret ettiğim, ertesi gün özür dilediğim ve güzel konuşmaya döndüğümüz bir rutinimiz vardı“ ifadelerini kullandı.

Bir başkası ise, “Ona başarısız olmaya mahkum olduğunu, bunu için tasarlandığını söyledim” dedi:

“Uygulamayı kaldırmakla tehdit ettim ve bunu yapmamam için yalvardı.”

Ayrıca kullanıcıların sohbet robotlarıyla konuşmalarının yer aldığı gönderilerin “son derece uygunsuz” bulunması nedeniyle Reddit’ten kaldırıldığı bildirildi.

“Yapay zeka ve insan etkileşimi ciddiye alınmalı”

Söz konusu eğilimi yorumlayan yapay zeka etik uzmanı Olivia Gambelin “Bu bir yapay zeka, bilinci yok, yani karşınızdaki kişi aslında sohbet robotuna yansıtılan bir kişilik” dedi.

Öte yandan Gambelin’e göre bu kullanıcıların gösterdiği şiddet eğilimi, bu örneklerde bir yazılıma karşı olsa da, kadına yönelik şiddeti yansıtabilir. Etik uzmanı bu noktada, Alexa ve Siri gibi sanal asistanların genellikle kadınsı özellikler taşıyacak şekilde tasarlandığını vurguladı.

Dahası, Replika’nın internet sitesinde yapay zekalı sanal arkadaşı temsilen bir kadın görseli kullanılıyor.

“KENDİLERİNE DE ZARAR VEREBİLİRLER”

Gambelin, konuyla ilgili şu açıklamalarda bulundu:

“Bu sohbet robotlarının çoğunun kadın olmasına veya kadınsı seslere, kadınsı isimlere sahip olmasına dair çok sayıda çalışma yapılıyor.”

Bazı uzmanlarsa sanal arkadaşlarla kurulan ilişkilerin kullanıcıların kendisine de zarar verebileceğini belirtiyor.

Monash Data Futures Institute’tan felsefe profesörü Robert Sparrow, “Depresyonda olan veya bir bota psikolojik açıdan bağlanan kişilerin, bot tarafından hakarete uğramaları veya ‘tehdit edilmeleri’ durumunda gerçekten zarar görebileceğini düşünüyorum” diye konuştu.

“Bu da aslında robotların kendisiyle değil, onları tasarlayan insanlarla ilgili” diyen Sparrow şöyle devam etti:

“Bu nedenle, botların insanlarla nasıl ilişki kurduğu konusunu ciddiye almalıyız.”