Teknoloji dünyası, etik sınırları zorlayan yeni bir uygulama ile çalkalanıyor. Bir zamanlar Disney Channel’ın Austin & Ally dizisinde rol alan oyuncu Calum Worthy’nin kurucularından olduğu şirket, ölen sevdiklerinin yapay zeka avatarlarını yaratan bir uygulama geliştirdi. Worthy, X platformunda paylaştığı rahatsız edici reklamla büyük tepki çekti ve eleştiri oklarının hedefi oldu.
34 yaşındaki Worthy, uygulamanın tanıtımında, “Kaybettiğimiz sevdiklerimiz geleceğimizin bir parçası olsaydı ne olurdu?” diye sordu. Worthy, Hollywood yapımcısı Russell Geyser ile birlikte kurduğu şirketin, “insanlığın yaşayan bir arşivini oluşturduğunu” ekledi.
Tartışmalı reklam videosu, hamile bir kadının, 2wai (İngilizce ‘two way’/iki yönlü) adlı uygulama aracılığıyla ölen annesinin AI kopyasıyla konuştuğunu gösteriyor. Video daha sonra zamanda atlama yapıyor; “büyükanne”, yeni doğan bebeğe masal okuyor, okuldan dönen çocukla konuşuyor ve nihayetinde kadının kendi çocuğunun doğumunu tartışıyor. Reklam, “Üç dakika sonsuza dek sürebilir” sloganıyla sonlanıyor ve uygulamanın, kullanıcıların sadece üç dakikalık bir video kaydıyla annelerinin dijital avatarını nasıl oluşturabileceğini gösteriyor.
“Şeytani ve insanlık dışı” bir fikir
Bu konsept, sosyal medya kullanıcılarını öfkelendirdi. Kullanıcılardan biri, uygulamayı “hayal edilebilecek en şeytani fikirlerden biri” olarak nitelendirirken, bir başkası ise “şeytani, sahtekar ve insanlık dışı” olarak tanımladı.
iOS cihazlar için App Store’da kullanıma sunulan 2wai uygulaması, kullanıcıların şirketin “HoloAvatar” adını verdiği sanal avatarlar yaratmasına imkan tanıyor. Temel olarak bu avatarlar, gerçek veya kurgusal kişilere benzeyecek şekilde tasarlanmış, hareketli sohbet robotu arayüzleri şeklinde tanımlanabilir. Şirket, kişisel antrenör Darius, astrolog Celeste ve şef Luca gibi varsayılan HoloAvatarların yanı sıra, Shakespeare ve garip bir şekilde Kral VIII. Henry gibi tarihi figürlerin de benzerlerini oluşturdu.
Ancak teknolojinin en çarpıcı yönünün, gerçek kişilerin sadece üç dakikalık bir videosunu kaydederek HoloAvatar yaratma yeteneği olduğu rahatlıkla söylenebilir. Şirket, bu kadar az miktarda verinin, AI’nin bir kişinin kişiliğini nasıl yeniden yaratabileceği hakkında herhangi bir bilgi paylaşmadı ve 2wai bu konuda yapılan taleplere yanıt vermiyor.
Yine de, uygulamanın sevdiklerini süresiz olarak sohbet robotları şeklinde “dirilteceği” vaadi, etik alarm zillerinin çalmasına neden oldu. X’te bir yorumcu, “Şefkat dedikleri, birinin yasını bir iş fırsatına dönüştürmekmiş” diye yazdı. Başka bir kullanıcı ise alaycı bir şekilde, “Hey, abonelik modelli nekromansi (ölü büyücülüğü) yapmasak nasıl olur?” diyerek tepki gösterdi.
Black Mirror senaryosu gerçek oluyor
Teknoloji meraklıları, uygulamanın bariz benzerliklerini hemen popüler dizi Black Mirror’ın “Be Right Back” bölümüne benzetti. O bölümde, yas tutan bir kadın ölen partnerinin dijital kopyasını yeniden yaratıyordu. Bölüm, teknolojiyi kullanarak geçmişe tutunmanın tehlikeleri hakkında karanlık bir uyarı öyküsü olarak tasarlanmışken, Worthy ve 2wai ekibi bu mesajı almamış gibi görünüyor. Bazı kullanıcılar, “Bu, Black Mirror’ın bugüne kadarki en rahatsız edici bölümü gibi görünüyor. Sabırsızlanıyorum!” gibi ironik yorumlar paylaştı.
Kullanıcılar, sevdiklerinin kimliğini bir AI şirketine teslim etmenin tehlikeleri ve bunun psikolojik sonuçları hakkında endişelerini de dile getiriyor. Özellikle, aile üyelerinin kontrol dışı şekillerde reklam veya başka amaçlarla kullanılabileceği olasılığı, yorumcuları alarma geçirmiş durumda.
Bir teknoloji meraklısı X’te, “İnsanların gerçeklikle bağını tamamen koparması ve normal yas sürecinden kaçınması için bir başka güzel yol daha” diye yazdı. Başka bir endişeli birey ise, “Sevdikleriniz, o meşhur aile güveci tarifini sizinle paylaşırken, bir yandan da marketteki konserve fasulye indirimini duyurup kupon uzatana kadar bekleyin” diyerek uygulamanın potansiyel kötüye kullanımına dikkat çekti.
