Sosyal medyada son günlerde biraz vakit geçirdiyseniz birçok arkadaşınızın kendilerini uzay yolcuları ya da masal prensesleri üzere gösteren çizimler paylaştıklarını, 90’larda doğmuş şahısların profil fotoğraflarının Rönesans devrinde yapılmış tablolara benzemeye başladığını fark etmişsinizdir.
Peki bu nasıl oluyor? Cevabı Lensa AI isimli bir uygulama. Selfie’lerinizi yapay zekâ kullanarak işleyen bu uygulama çeşit çeşit hallerinizi yaratıyor. Lakin bu furya tartışmaları da beraberinde getiriyor.
Biz de Lensa AI’a ve bu tartışmalara biraz daha yakından bakalım dedik. İşte 8 soruda merak edilenler…
1) LENSA AI NEDİR?
Lensa AI bir akıllı telefon uygulaması. Geçtiğimiz hafta içinde astronomik bir popülerliğe ulaşan bu uygulamayı kendiniz (henüz) indirmediyseniz bile eserlerini toplumsal medya akışlarınızda görmemiş olmanız neredeyse imkânsız.
Prisma Labs’in yaratıcısı olduğu bu uygulama aslında 2018 yılından bu yana faal. Lakin tahlil şirketi Sensor Tower’ın bilgilerine nazaran, Lensa AI asıl popülerliğini Kasım ayı sonlarında gelen “sihirli avatar’lar” özelliği sayesinde elde etti. ABD’de Kasım ayı boyunca 2 milyon defa indirilen uygulama Aralık’ın birinci 5 gününde 4 milyon indirmeye ulaştı ve hem Apple’ın hem de Google’ın uygulama mağazalarında doruğa yerleşti.
Lensa AI, sihirli avatar’lardan evvel piyasada Facetune üzere birçok örneği bulunan fotoğraf ve görüntü düzenleme uygulamalarından biriydi. Kullanıcılar Lensa ile çektikleri fotoğraflarda art planı değiştirip, göz etraflarındaki kırışıklıkları gizleyebiliyordu.
Yapay zekâ yoluyla fotoğrafları artistik biçimlerde tekrar üreten Prisma isimli uygulamanın da sahibi olan Prisma Labs’in merkezi, ABD’nin California eyaletinin Sunnyvale kentinde. Prisma Labs’in CEO’su Andrey Usoltsev ile kurucusu Alexey Moiseenkov’un LinkedIn profillerinde daha evvel Rus teknoloji devi Yandex’te çalıştıkları belirtiliyor.
2) LENSA AI PARALI BİR UYGULAMA MI?
Evet. Uygulamayı indirdikten sonraki birinci hafta fiyatsız deneme süreci. Bu süreçte uygulama size “anime”, “peri prenses”, “kozmik” üzere 5 başka usulde 10’ar görsel, yani 50 adet avatar sunuyor. Sonrasında yıllık 35,99 dolar (Türkiye fiyatı 189,99 TL) karşılığında “sınırsız erişim” sağlayan aboneliğiniz başlıyor. Bunun yanı sıra avatar paketleri için de uygulama içi alımlar yapabiliyorsunuz. Bu sayede avatar seçenekleriniz 200’ü buluyor. (Abonelere bu alımlarda indirim uygulanıyor.)
Yine Sensor Towers’ın datalarına nazaran, Aralık ayının birinci 5 gününde kullanıcılar Lensa AI’ın uygulama içi alımlarına toplam 8,2 milyon dolar harcadı.
Uygulamanın sayfasında, “Sihirli Avatar’lar, sizin için büyüleyici avatar’lar üretebilmek için çok önemli bir bilgisayar gücü harcıyor. Evet, değerli lakin servisimizin mümkün olduğunca erişilebilir tutmaya çalıştık” tabirleri yer alıyor.
Ne var ki uygulamanın popülerliği arttıkça fiyatlar da günbegün değişiyor. Bir diğer deyişle siz bu haberi okuduktan sonra uygulama mağazasına girdiğinizde öbür bir fiyatla karşılaşabilirsiniz.
3) LENSA AI NASIL ÇALIŞIYOR?
Uygulamayı indirdikten sonra 8-10 adet selfie yüklemesi yapmanız gerekiyor. Burada değerli olan yüzünüzün ekranın değerli bir kısmını kaplaması ve fotoğraflarda yalnız olmanız.
Buna ek olarak elinizin yüzünüze değdiği ya da yakın olduğu fotoğrafları da yüklemekten kaçınmalısınız. Aksi takdirde ortaya çıkan avatar’ların yanağından çıkan parmaklar üzere tuhaf ve ürkütücü sonuçlar elde edebiliyorsunuz. (Uygulama yükleyeceğiniz fotoğrafları seçmeden evvel sizi bu bahiste uyarıyor.)
Fotoğrafları ve cinsiyetinizi seçtikten sonra beklemeye başlıyorsunuz. Yapay zekânın avatar’ları oluşturması yarım saat kadar vakit alıyor. Bu mühletin sonunda sahip olduğunuz paket sayısına bağlı olarak 50 ila 200 adet avatar’ınız sizi bekliyor.
4) PEKALA ANCAK BU YAPAY ZEKÂ NASIL ÇALIŞIYOR?
Lensa, “Stable Diffusion” ismi verilen ve herkesin kullanımına açık olan bir makine öğrenme modeli üzerinden işliyor.
Arizona State Üniversitesi Bilgisayar ve Artırılmış Zekâ Okulu’ndan Prof. Subbarao Kambhampati, Stable Diffusion’ı “gerçekten çok güçlü” bir yapay zeka tabanlı görsel üretici olarak nitelendirdi.
DALL-E 2 ve Midjourney üzere, Stable Diffusion da görsel komutları (yani selfie’leriniz) ile metin komutlarını (yani Lensa’nın kategori isimlerini) kullanarak yüksek kaliteli görseller üretiyor.
İnternet üzerinden toplanmış milyarlarca görsel-metin kombinasyonu kullanılarak eğitilmiş olan Stable Diffusion, yüklediğiniz fotoğrafları bir buluta gönderiyor ve yalnızca size mahsus bir makine öğrenmesi modeli geliştiriyor. Bu model de yeni avatar’larınızı ortaya çıkarıyor.
Dr. Kambhampati, “Size kimsenin çekmediği fotoğraflar gösteriyor; gördüğü başka görsellerden aldığı kesimleri bir ortaya getirip bunları oluşturuyor” diye özetledi Stable Diffusion’ın çalışma mantığını.
5) ORTAYA ÇIKAN GÖRSELLER BANA NE KADAR BENZEYECEK?
Kullanıcıların bir kısmına nazaran, uygulamanın ürettiği görseller tüyler ürpertecek kadar gerçeğe yakın.
Ne var ki bu sürecin sonucunda ortaya çıkan görsellerin hepsi eksiksiz olacak diye bir kural yok. (Bir öbür deyişle arkadaşlarınızın sizinle paylaşmadığı avatar’lar da var.) Vakit zaman bir gözünüz büyük başka küçük çıkabiliyor. Ya da yapay zekâ iki tane olan kolunuzu teğe indirmeyi tercih edebiliyor.
ABD’de uygulamanın muvaffakiyetinin kişinin cilt rengine nazaran değişiklik gösterdiği tartışmaları yaşanıyor şu an. Örneğin siyahi şahısların elde ettiği “tuhaf” avatar’ların beyazlara kıyasla daha fazla olduğu eleştirisi sık sık lisana getiriliyor. Asyalılar ve başörtülü bireyler de Twitter’da benzeri şikayetlerle paylaşımlar yapıyor. (Yapay zekâ görsellemesinde ırk eşitsizliği aslında uzun müddettir tartışılan bir bahis.)
Prisma Labs CEO’su Andrey Usoltsev, The Washington Post’un tartışmalarla ilgili sorularına cevap vermedi ve karşılıkların şirketin sitesindeki “sıkça sorulan sorular” sayfasında bulunabileceğini belirtti.
Algoritma adaleti savunucusu AI for the People hareketinin kurucusu Mutale Nkonde ise gazeteye yaptığı açıklamada yapay zekâ mühendislik ve eğitim görsellerinde koyu derili bireyler olmadığından, modellerin bu şahısların fotoğraflarını işlemekte zorlandığını söyledi.
Dr. Kambhampati de bunun yapay zekâ araçlarının ortak sorunu olduğunu vurguladı ve “Sisteme yüklediğini görsellerin birçoklarının beyaz olduğu durumlarda sistemin ‘daha iyisini’ yapmak istediğinde beyazlaştırmaya gitmesi şaşırtan değil” dedi.
Bu durum bilhassa yapay zekânın polis tarafından kullanılması halinde büyük riskler içeriyor. Gerçekten ABD’de şimdiye kadar üç siyahi erkek bu yüzden kazara gözaltına alındı.
Nkonde, Lensa’nın ürettiği bayan avatar’larının, yüklü olarak “seksi beyaz kız” kategorisinde olmasının siyahi bayan ve kızların öz hürmetine ziyan verebileceğini de kelamlarına ekledi.
Bunun yanı sıra birçok kullanıcı uygulamadaki avatar’larında gerçekte olduklarından daha zayıf, daha minyon, daha küçük yüzlü ve ince boyunlu olduklarını belirtiyor. Bu durumun bilhassa vücut algısı sorunu yaşayan bireylerde tetikleyici bir tesir yaratabileceğinden tasa ediliyor.
The New York Times’a konuşan 29 yaşındaki Yasemin Anders, “Kendimi bir peri olarak hayal etmek istesem de tekrar de kendime benzemek istiyorum. Hayatım boyunca daima şişman oldum. Neden ülküleştirilmiş ve bana benzemeyen bir halimi hayal edeyim ki?” diye konuştu.
Uygulamanın sıkça sorulan sorular sayfasında bu bahisle ilgili olarak, “Stable Diffusion modeli filtrelenmemiş internet içerikleri ile eğitilmiştir. Hasebiyle insanların ürettikleri görsellere dair önyargılarını yansıtmaktadır” deniyor.
6) DİĞER NE ÜZERE SAKINCALAR KELAM KONUSU?
Uygulamayla ilgili şikayetlerden bir başkası de ortaya çıkan avatar’ların çok cinselleştirilmiş olması.
Bazı kullanıcılar yalnızca yüzlerinin göründüğü fotoğrafları yüklemelerine karşın Lensa AI’ın ürettiği avatar’larda beden görselleri de olduğunu belirtiyor. Bilhassa bayanlarda bu avatar’ların büyük göğüs, yuvarlak kalça üzere klâsik hoşluk ve seksapel normlarını içermesi dikkat çekiyor.
Prisma Labs’in sıkça sorulan sorular sayfasında bu bahiste “zaman vakit seksileştirme tüm cinsiyetler için geçerli olabilir” deniyor.
Bu da teoride, Lensa AI kullanarak istediğiniz herkesin çıplak fotoğraflarını üretebileceğiniz manasına geliyor ve akla çok tehlikeli ihtimalleri getiriyor. Kullanıcıların yaptığı denemelerde bu cinselleştirmenin çocukların fotoğrafları için de geçerli olduğu anlaşıldı. (Uygulamanın kullanım yaşı 13 ve üzeri olarak belirlenmiş.)
Geçtiğimiz hafta içi Tech Crunch, Lensa’yı kullanarak birçok ünlü kişinin üstsüz avatar’larını ürettiklerini duyurdu ve bu durumu Lensa’nın yetkililerine bildirdi. CEO Usoltsev, yanıt olarak Lensa AI’ı ziyan verecek ya da taciz olarak görülebilecek gayeler için kullanmanın, kullanıcı mukavelesinin ihlali manasına geldiğini belirtti.
7) BİLGİ GÜVENLİĞİ KONUSUNDA ENDİŞELENMELİ MİYİM?
Prisma Labs, Lensa’nın fotoğraflarınızdan elde edilen dataların ve içgörülerin üçüncü taraflarla paylaşılmadığını belirtiyor lakin uygulamanın güvenlik siyaseti buna taban sağlıyor.