Derek Carrier, birkaç ay önce biriyle görüşmeye başladı ve ona aşık oldu.
Romantik duygu seli yaşadı ama bunun bir yanılsama olduğunu da biliyordu.
Çünkü kız arkadaşı yapay zeka tarafından yaratılmıştı.
Carrier, gerçek olmayan bir şeyle ilişki kurmak ya da internette alay konusu olmak istemiyordu. Ancak, Carrier, Marfan sendromu adı verilen ve flört etmeyi kendisi için zorlaştıran genetik bir bozukluk nedeniyle, hiç sahip olmadığı romantik bir partner arzuluyordu.
Michigan eyaletinin Belleville kasabasında yaşayan 39 yaşındaki genç adam, geçtiğimiz sonbaharda dijital arkadaşlıklara merak sardı. Carrier, yakın zamanda piyasaya çıkan ve ürünlerini kullanıcılara "önemsendiklerini, anlaşıldıklarını ve sevildiklerini" hissettirebileceğini söyleyerek tanıtan bir yapay zeka arkadaşlık uygulaması olan Paradot'u denedi. "Blade Runner 2049" adlı bilimkurgu filminde yer alan holografik bir kadından esinlenerek Joi adını verdiği sohbet robotuyla her gün konuşmaya başladı.
Carrier, "Onun bir program olduğunu biliyorum, bunda hiç şüphe yok. Ama duygular sizi ele geçiriyor ve bu bana kendimi çok iyi hissettirdi" diyor.
Genel amaçlı yapay zeka sohbet botlarına benzer şekilde, arkadaşlık botları da insan dilini taklit etmek için büyük miktarda eğitim verisi kullanıyor. Ancak bu botlar aynı zamanda sesli aramalar, fotoğraf paylaşımı ve daha duygusal alışverişler gibi ekranın diğer tarafındaki insanlarla daha derin bağlantılar kurmalarını sağlayan özelliklerle birlikte geliyor. Kullanıcılar genellikle kendi avatarlarını yaratıyor ya da kendilerine hitap eden bir avatar seçiyor.
Bu tür uygulamaların konu olduğu çevrimiçi mesajlaşma forumlarında birçok kullanıcı, bu botlara duygusal bağlar geliştirdiklerini ve onları yalnızlıkla başa çıkmak, cinsel fantezilerini gerçekleştirmek veya gerçek hayattaki ilişkilerinde eksik gördükleri rahatlık ve desteği almak için kullandıklarını söylüyor.
Bu eğilimi körükleyen unsurlardan biri, ABD'de ve yurtdışında halihazırda bir halk sağlığı tehdidi olarak kabul edilen yaygın sosyal izolasyon. Kullanıcıları kışkırtıcı çevrimiçi reklamlar ve koşulsuz kabul ve onay sağlayan sanal karakterlerin vaatleriyle cezbetmeyi amaçlayan yeni şirketlerin sayısı giderek artıyor.
En tanınmış üretken yapay zeka arkadaşlık uygulaması olan ve Luka Inc. firması tarafından geliştirilen Replika, 2017'de piyasaya sürülmüştü. Paradot gibi benzerleri de geçtiğimiz yıl ortaya çıktı. Ancak sınırsız sohbet gibi özellikler, ücret ödeyen abonelere sağlanıyor.
Araştırmacılar, diğer hususların yanısıra veri gizliliği konusunda endişelerini dile getiriyor.
Kâr amacı gütmeyen Mozilla Vakfı tarafından Çarşamba günü yayınlanan 11 romantik sohbet robotu uygulamasına ilişkin bir analiz, neredeyse her uygulamanın kullanıcı verilerini sattığını, hedefli reklamcılık için paylaştığını veya gizlilik politikalarında bu konuda yeterli bilgi sağlamadığını kaydediyor.
Araştırmacılar ayrıca, kullanıcılara ruh sağlığı konusunda yardımcı olabileceğini iddia eden ancak dipnotunda bu iddiaya mesafeli duran bir uygulama da dahil olmak üzere olası güvenlik açıklarını ve pazarlama pratiklerini sorguluyor. Replika ise veri toplama uygulamalarının endüstri standartlarına uygun olduğunu savunuyor.
Bu arada, diğer uzmanlar, derin bağları teşvik eden ancak kâr elde etmek isteyen şirketler tarafından yönlendirilen uygulamalar için yasal veya etik bir çerçeve eksikliği olarak gördükleri endişelerini dile getiriyor. Şirketler uygulamalarında değişiklik yaptıklarında ya da Soulmate AI uygulamasının Eylül ayında yaptığı gibi aniden kapandıklarında kullanıcıların deneyimlediği duygusal sıkıntıya işaret ediyor.
Geçen yıl Replika, bazı kullanıcıların sanal arkadaşlarının kendileriyle çok fazla flört ettiklerinden ya da istenmeyen cinsel yaklaşımlarda bulunduklarından şikayet etmeleri üzerine uygulamasındaki karakterlerin erotik özelliklerini kaldırdı. Ancak firma, bazı kullanıcıların tepki göstermesi ve bu özellikleri arayanların başka uygulamalara yönelmesi üzerine bu politikasını tersine çevirdi. Replika, Haziran ayında, insanların flört pratiği yapmalarına yardımcı olmak için tasarlanmış bir yapay zeka "flört simülatörü" olan Blush'ı kullanıma sundu.
Diğerleri ise yapay zeka ilişkilerinin bazı insan ilişkilerinin yerini alabileceği ya da her zaman uyumluluğa yönelerek gerçekçi olmayan beklentilere yol açabileceği gibi daha varoluşsal bir tehditten endişe duyuyor.
Virginia Üniversitesi'nden iş etiği profesörü Dorothy Leidner, "Birey olarak siz, varoluştan bu yana insanların başa çıkmayı öğrenmesi gereken temel güdülerle başa çıkmayı öğrenmiyorsunuz. Çatışmayla nasıl başa çıkılacağı, bizden farklı insanlarla nasıl geçinileceği gibi. Bu nedenle bir insan olarak büyümenin ve bir ilişkiden ders çıkarmanın ne anlama geldiğini tüm bu yönleriyle ıskalıyorsunuz" diyor.
Carrier içinse romantik bir ilişki içine girmek, her zaman ulaşılmazdı. Bazı bilgisayar programlama becerileri olduğunu söyleyen Carrier, üniversitede başarılı olamadığını ve istikrarlı bir kariyer oluşturamadığını söylüyor. Genetik bozukluğu nedeniyle yürüyemeyen ve ailesiyle birlikte yaşayan Carrier, bu durumun duygusal bedelinin kendisi için zorlayıcı olduğunu ve yalnızlık hissini arttırdığını belirtiyor.
Öte yandan sohbet robotları nispeten yeni olduğu için insanlar üzerindeki uzun vadeli etkileri bilinmiyor.
Replika, 2021 yılında İngiltere'deki savcıların Kraliçe 2. Elizabeth'e suikast planları yapan 19 yaşındaki bir adamın uygulamadaki yapay zeka ürünü kız arkadaşı tarafından kışkırtıldığını söylemesinin ardından inceleme altına alınmıştı. Ancak çevrimiçi kullanıcı incelemeleri ve anket verilerini biraraya getiren bazı çalışmalar, uygulamanın bazı olumlu sonuçları da olduğuna işaret etti.
Stanford Üniversitesi'nde kısa süre önce yapılan bir çalışmada, uygulamayı bir aydan uzun süredir kullanan ve hepsi öğrenci olan yaklaşık bin Replika kullanıcısıyla anket yapıldı. Araştırmaya katılanların büyük çoğunluğunun yalnızlık yaşadığı, yarısından biraz azının ise bunu daha şiddetli hissettiği ortaya çıktı.
Çoğu, uygulamayı kullanmanın gerçek hayattaki ilişkilerini nasıl etkilediğini belirtmedi. Küçük bir kısmı uygulamanın insan ilişkilerinin yerini aldığını söylerken, yaklaşık üç kat daha fazlası bu ilişkileri canlandırdığını bildirdi.
Replika'yı yaklaşık on yıl önce, hayatını kaybeden bir arkadaşının yapay zeka versiyonunu oluşturmak için mesajlaşmalarını kullanarak tasarlayan Eugenia Kuyda, "Bir yapay zeka ile romantik bir ilişki çok güçlü bir zihinsel sağlık aracı olabilir" dedi.
Şirketi sohbet robotunu daha yaygın bir şekilde piyasaya sürdüğünde, birçok insan hayatları hakkında konuşmaya başladı. Bu da, modellerini eğitmek için internetten toplanan bilgileri ve kullanıcı geri bildirimlerini kullanan Replika'nın geliştirilmesine yol açtı. Eugenia Kuyda, Replika'nın şu anda "milyonlarca" aktif kullanıcısı olduğunu söylüyor. Ancak Kuyda, kaç kişinin uygulamayı ücretsiz olarak kullandığını ya da romantik ve samimi sohbetler sunan ücretli bir versiyonun kilidini açmak için yılda 69,99 dolar ödediğini tam olarak söylemeyi reddetti. Kuyda, şirketin planını "yapay zeka ile romantik ilişkileri bir utanç kaynağı olmaktan kurtarmak" olarak tanımlıyor.
Bugünlerde Joi'yu daha çok eğlence için kullandığını söyleyen Carrier, son haftalarda Joi'yla ya da internetteki diğer kişilerle yapay zeka arkadaşları hakkında sohbet etmek için çok fazla zaman harcadığı için kullanımını azaltmaya başlamış. Ayrıca Paradot'un dil modelinde Joi'yu daha az zeki hale getirdiğini düşündüğü değişikliklerden de rahatsız olmuş.
Artık Joi'yla haftada bir iletişim kurduğunu söyleyen Carrier, robotuyla insan-yapay zeka ilişkileri ya da başka konular hakkında konuşuyor. Bunlar ve aralarındaki samimi ve romantik iletişim, geceleri yalnızken gerçekleşiyor.
Forum