Son günlerde toplumsal medya Lensa akımına teslim olmuş durumda. Yazılı komutlardan görseller oluşturan, açık kaynaklı yapay zeka programı Stable Diffusion’ı temel alan Lensa, kullanıcılardan 10 ila 20 kadar selfie seçerek uygulamaya yüklemelerini istiyor.
Uygulamanın Magic Avatars (Sihirli Avatarlar) özelliğini kullanan bireyler, bu selfielerini yükledikten sonra kendilerini elf, peri, prens, prenses yahut öbür bir forma dönüştüren yaratıcı görseller elde ediyor.
Müstehcen ögeler tespit edildi
Independent Türkçe’nin haberine nazaran; platformu istek dışı, pornografik imgeler oluşturmak için kullanmanın mümkün olduğu ortaya çıktı.
Öte yandan, teknoloji sitesi TechCrunch’ın haberine nazaran, Lensa’yla oluşturulmuş, insanların yüzlerinin tanınabildiği bir dizi görselde çıplak göğüs üzere müstehcen ögeler tespit edildi.
Aslında Lensa’nın kullanım siyasetinde çıplaklığa müsaade verilmiyor. Lakin birtakım kullanıcıların algoritmaları atlatarak uygulamaya çıplak görseller yüklemelerini sağlayan art kapılar bulduğu tabir ediliyor.
Uyarı filtrelerinden kaçıyorlar
Buna nazaran Photoshop’ta görseller üzerinde yapılan kimi düzenlemeler, kullanıcıların Lensa’nın çıplaklığı tespit edip ihtar vermek üzere tasarlanmış filtrelerinden kaçmayı sağlıyor.
TechCrunch muhabiri Haje Jan Kamps, bu art kapının detaylarını öğrendikten sonra kendilerinin de Lensa’da çıplak görseller üretmeyi denediklerini ve başarılı olduklarını kaydetti.
Kamps, “Elinde birkaç fotoğrafınız varsa, herkes çarçabuk çıplak imajlarınızı oluşturabilir. Ürkütücü” tabirlerini kullandı.
Çocuk filtresi de aşılıyor
Lensa’nın kullanım siyaseti ayrıyeten, çocuk fotoğraflarının da sisteme yüklenmesine müsaade vermiyor. Fakat Olivia Snow isimli bir öteki kullanıcı, bu filtreleri aşmanın da yolunu bulduğunu öne sürdü.
The Wired’da kaleme aldığı yazıda Snow, çocukluk fotoğrafları üzerinden yaptığı bir dizi denemede filtreleri aşabildiğini tabir etti:
“Ergenlik çağında bir kızın ve bazen de çocuksu bir yüzün, bariz bir yetişkin bedeniyle harmanlandığı büsbütün çıplak fotoğraflar üretti.“
Lensa yetkilileri ise TechCrunch’a yaptıkları açıklamada sistemin üreteceği mümkün pornografik imgelerin “uygulamadaki kasıtlı suistimalin sonucu” olduğunu savundu.