Cumartesi, Temmuz 20, 2024
Ana SayfaTeknoloji HaberleriLensa AI uygulaması, kimsenin istemediği seksi "Sihirli Avatar" resimleriyle heyecan yaratıyor

Lensa AI uygulaması, kimsenin istemediği seksi “Sihirli Avatar” resimleriyle heyecan yaratıyor

bir seçim
Büyüt / Sakal da dahil olmak üzere Lensa AI uygulaması tarafından oluşturulan bir dizi erkek ve dişi “Sihirli Avatarlar” kontrol altına alınamaz.

Benj Edwards / Ars Technica

Geçtiğimiz hafta, akıllı telefon uygulaması Lensa AI, kullanıcıların yüklediği selfie vesikalıklara dayalı stilize AI avatarları oluşturabildiği için sosyal medyada popüler bir konu haline geldi. Muhtemelen kişiselleştirilmiş gizli yayılma avatar üretimi ilk kez geniş bir izleyici kitlesine ulaştı.

Lensa AI, sosyal medyada AI portrelerini paylaşmaktan hoşlanan insanlar arasında popüler olduğunu kanıtlamış olsa da, basın, Lensa’nın AI avatar özelliği kullanıma sunulduğunda, uygulamanın kadın tasvirlerini cinselleştirme eğilimine geniş ölçüde odaklandı.

Prisma Labs’in bir ürünü olan Lensa, 2018’de yapay zeka destekli fotoğraf düzenlemeye odaklanan bir abonelik uygulaması olarak kullanıma sunuldu. Kasım 2022’nin sonlarında, yeni “Sihirli Avatar” özelliği sayesinde uygulamanın popülaritesi arttı. Lensa’nın arka planda Stable Diffusion görüntü sentez modelini kullandığı bildiriliyor ve Magic Avatar’ın Dreambooth’a benzer bir kişiselleştirme eğitim yöntemi kullandığı görülüyor (yakın zamanda sonuçlarını ele aldık). Eğitimin tamamı cihaz dışında ve bulutta gerçekleşir.

Aralık ayı başlarında uygulamayı kullanan kadınlar, Lensa’nın Sihirli Avatar özelliğinin yarı pornografik veya kasıtsız olarak cinselleştirilmiş görüntüler oluşturacağını fark ettiler. CNN için Zoe Sottile, “Uygulamada karşılaştığım zorluklardan biri, çevrimiçi olarak başka kadınlar tarafından anlatıldı. Yüklediğim tüm resimler tamamen giyinik olmasına ve çoğunlukla yüzümün yakın çekimleri olmasına rağmen, uygulama birkaç resim döndürdü. zımni veya gerçek çıplaklık ile.”

Diğer kadınlar da benzer şeyler yaşadıkça basındaki tepki büyüdü. Örneğin, çeşitli yayınlarda Lensa’yı konu alan başlıklardan bir seçki aşağıda verilmiştir:

Bu arada aynı cinselleştirme sorunu, Magic Avatar özelliğine yüklenen erkeklerin görüntülerinde görünmüyordu. MIT Technology Review için Melissa Heikkilä, “Avatarlarım karikatürize bir şekilde pornolaştırılırken, erkek meslektaşlarım astronotlar, kaşifler ve mucitler oldu” diye yazdı.

Bu, bir ürünü varsayılan olarak çıktısını kolayca seksileştirebilen Stable Difüzyon 1.x’e dayandırmanın tehlikelerinden biridir. Davranış, internetten kazınmış görüntü eğitim veri setinde bulunan çok sayıda cinselleştirilmiş görüntüden geliyor. (Stable Diffusion 2.x, NSFW malzemesini eğitim setinden kaldırarak bunu düzeltmeye çalıştı.)

İnternetin, çevrimiçi kadınların cinselleştirilmiş tasvirine yönelik kültürel önyargıları, Lensa’nın yapay zeka üreticisine eğilimlerini verdi. TechCrunch’a konuşan Prisma Labs CEO’su Andrey Usoltsev, “Ne biz ne de Stability AI bilinçli olarak herhangi bir temsil önyargısı uygulayamadı; Daha kesin olmak gerekirse, çevrimiçi kaynaklı insan yapımı filtrelenmemiş veriler, modeli insanlığın mevcut önyargılarına tanıttı. Yaratıcılar toplumsal önyargı olasılığını kabul ediyoruz. Biz de kabul ediyoruz.”

Yaygın eleştirilere yanıt olarak, Prisma Labs’ın Lensa AI’da yanlışlıkla çıplak görüntülerin oluşturulmasını önlemek için çalıştığı bildiriliyor.

Salı günü, 15 kadın resmi (ve ayrıca 15 erkek resmi) yükleyerek Lensa AI ile deneyler yaptık, ardından her birinin Magic Avatar temsilleri için ödeme yaptık. Gördüğümüz kadın sonuçları herhangi bir şekilde cinselleştirilmemişti, bu nedenle Prisma’nın NSFW tarzı görüntülerin görülme sıklığını azaltma çabaları şimdiden çalışıyor olabilir.

Bu, Lensa AI’nın kadın denekleri cinselleştirme eğilimlerinin olmadığı anlamına gelmez. Stable Diffusion’ın görüntüleri nasıl oluşturduğuna bağlı olarak, farklı kadınların yüzlerinin (veya giriş fotoğraflarının) Stable Diffusion veri kümesindeki belirli bir aktris, ünlü veya modelin fotoğraflarına ne kadar benzediğine bağlı olarak farklı sonuçlar görmesi muhtemeldir. Deneyimlerimize göre bu, Kararlı Difüzyonun bir kişinin vücudunun geri kalanını ve içeriğini nasıl işlediğini büyük ölçüde belirleyebilir.

Lensa AI’yı kullanmak kolaydır, ancak yıllık abonelik ücreti (şu anda yıllık 50 ABD doları) ve Magic Avatar görüntülerinin eğitimi için tek seferlik ücreti olan bir üründür: 50 avatar için 3,99 ABD doları, 100 avatar için 5,99 ABD doları veya 200 avatar için 7,99 ABD doları. Müşteriler, farklı açılardan çekilmiş 10-20 özçekim yükler ve ardından sonuçları görmek için yaklaşık 20-30 dakika bekler. Kullanıcılar, hizmeti kullanmak için 18 yaşından büyük veya daha büyük olduklarını onaylamalıdır.

Teknik olarak yatkın olanlar bunun yerine Dreambooth’u ücretsiz olarak deneyebilir, ancak şu anda çalışmak için geliştirme araçları hakkında biraz bilgi sahibi olunması gerekiyor.

RELATED ARTICLES

Popüler Konular