Sarah McDermott ve Jess Davies, BBC News
İzniniz olmadan yüzünüzün dijital olarak bir porno görüntüsüne eklendiğini ve bu görüntünün internette paylaşıldığını düşünebiliyor musunuz? Kate Isaacs tam olarak bunu yaşadı ve kendi tecrübesini anlatıyor.
Kate, bir akşam Twitter hesabına bakarken bildirimlerinde rahatsız edici bir görüntüye denk geldi.
O anı birinci kere açık bir halde anlatan Kate, “Birden paniğe kapıldım. Biri yüzümü alıp bir porno görüntüsüne yapıştırmıştı” diyor.
Kate, deepfake teknolojisinin mağduru olmuştu.
Biri yapay zeka teknolojisiyle onun yüzünü bir porno yıldızının yüzünün üstüne yapıştırmıştı.
Kate, görüntünün daha evvel televizyonda gösterilen röportajlarından görseller alınarak yapıldığını düşünüyor.
İnsanların isteği olmadan yapılan porno görüntülerine karşı kampanyalar yürüten Kate, görüntüde seks yapıyormuş üzere gösteriliyordu.
“İnanamadım. Yanlışsız dürüst düşünemez oldum” diyor Kate ve ekliyor:
“Çok feciydi. Görüntünün her yerde paylaşılacağını düşündüm.”
Geçmişte deepfake görüntülerinde ünlülerin ve siyasetçilerin yüzleri kullanılırdı.
Videolar her vakit porno görüntüsü da olmuyordu, bazen güldürü görüntüleri yapılıyordu.
Ancak son yıllarda bu değişti. Sibergüvenlik şirketi Deeptrace’e nazaran deepfake görüntülerinin yüzde 96’sı pornografik görüntülerden oluşuyor.
İntikam almak için yapılan pornografik görüntülerde da olduğu üzere deepfake teknolojisiyle yapılan sinemalar, imgeye dayalı cinsel istismar olarak tanımlanıyor.
#SeninPornonDeğil
30 yaşındaki Kate, 2019 yılında #NotYourPorn (Senin Pornon Değil) kampanyasını başlattı.
Bir yıl sonra Kate’in kampanyaları sayesinde “yetişkin cümbüş sitesi” Pornhub, doğrulanmamış kullanıcılar tarafından yüklenen tüm görüntülerini kaldırmak zorunda kaldı. Bu, sitedeki görüntülerin neredeyse tümüydü.
Kate, kendisine karşı deepfake teknolojisini kullanan kişinin bu kampanyaya cevaben bu türlü bir şey yaptığını düşünüyor lakin bu kişinin kim olduğuna dair hiçbir fikri yok.
Videonun çok inandırıcı bir formda yapıldığını söyleyen Kate, insanların düzmece olduğunu anlamayacağından korktuğunu paylaşıyor.
Kate, bir müddet sonra insanların görüntünün altına tehditkar yorumlar bırakmaya başladığını, bazısının Kate’i konutuna kadar takip edeceğini, ona tecavüz edeceğini, atak anını sinemaya çekeceğini ve internette yayımlayacağını söylediğini anlatıyor.
Kate, konut ve iş adresinin bile görüntünün altına eklendiğini söylüyor.
“Paranoyak oldum. Kim benim adresimi biliyordu ki? Sanki tanıdığım birisi mi diye düşünmeye başladım” diyen Kate kelamlarını şöyle sürdürüyor:
“Gerçekten tehlikede olduğumu düşündüm.”
Kate’in bir iş arkadaşının görüntüyü Twitter yetkililerine bildirmesiyle görüntü toplumsal medya platformundan kaldırıldı.
Ancak bir deepfake görüntüsü internette paylaşıldığında onu büsbütün yok etmek çok sıkıntı.
Uzmanlar, deepfake olayına maruz kalanların ispat toplayıp bunu bir an evvel polise bildirmesini öneriyor.
Deepfake piyasası
Deepfake görüntülerin üretimi için çevrim içi forumlarda önemli bir talep var.
İnsanlar, eşlerinin, komşularının, meslektaşlarının ve ailelerinin bile deepfake görüntülerde kullanılmasını talep ediyor.
İngiltere’de yaşayan ve BBC’ye gerçek ismini vermeyen bir deepfake görüntü imalcisi, birinci başta ünlülerin görüntülerini yaparak başladığını anlatıyor.
Görkem ismini kullanan üretimci, insanların bu görüntüler sayesinde “daha evvel mümkün olmayan bir formda fantezilerini tatmin ettiğini” söylüyor. Daha sonra cazibeli bulduğu bayanların ve iş arkadaşlarının görüntülerini yapmaya başladığı anlatıyor:
“Biri evliydi oburunun de alakası vardı. Bu bayanların deepake görüntülerini yaptıktan sonra ofise gitmek tuhaf bir histi ancak hiçbir şey olmamış üzere davrandım ve sinirlerime hakim oldum.”
Hobi olarak yaptığı bu işten para kazanabileceğini anlayan Görkem bir müddet sonra internet üzerinden sipariş almaya başladığını anlatıyor.
Görkem, bayanların toplumsal medya hesaplarından fotoğraflar toplamaya başladığını, bir seferinde Zoom görüşmesinden aldığı imajlarla bile görüntü yaptığını söylüyor:
“Kadınların direkt kameraya baktığı imgeler benim için çok yararlı. Algoritma böylelikle bu imgeleri kullanarak onların yüzünü kullanabiliyor.”
Görkem, “bazı kadınların” deepfake sürecinden ruhsal olarak olumsuz etkilenebileceğini kabul etse de genel olarak bayanları nesnelleştirme hareketinin ziyanlarını çok umursamıyor.
Görkem, “Bu ben değilim, uydurma bir görüntü deyip hayatlarına devam edebilirler. Ahlaki açıdan beni durduracak hiçbir şey olduğunu düşünmüyorum” diyor ve devam ediyor:
“Bir kuruldan para kazanacaksam bunu yaparım, düşünmeme bile gerek yok.”
Deepfake görüntülerinin standardı yapımcının tecrübesi ve teknolojiye nazaran değişebiliyor.
Ancak dünyanın en büyük deepfake porno sitelerinden birini işleten bir öbür adam, artık görüntülerde görsellerin manipüle edilip edilmediğini anlamanın çok sıkıntı olduğunu söylüyor.
ABD’de yaşayan bu adam, yaklaşık 20 bin görüntünün yüklü olduğu internet sitesini ayda 13 milyon kişinin ziyaret ettiğini söylüyor.