Benj Edwards / Ars Technica
Son on yılda sosyal medyada kendi fotoğraflarını paylaşan milyarlarca insandan biriyseniz, bu davranışı yeniden düşünmenin zamanı gelmiş olabilir. Yeni AI görüntü oluşturma teknolojisi, herkesin sizin bir avuç fotoğrafınızı (veya video karenizi) kaydetmesine ve ardından utanç verici veya yasa dışı şeyler yaptığınızı gösteren gerçekçi sahte fotoğraflar oluşturmak için AI’yı eğitmesine olanak tanır. Herkes risk altında olmayabilir ama herkesin bunu bilmesi gerekir.
Fotoğraflar her zaman tahrifata maruz kalmıştır – önce karanlık odalarda makas ve yapıştırma ile ve ardından pikseller aracılığıyla Adobe Photoshop aracılığıyla. Ancak ikna edici bir şekilde üstesinden gelmek büyük bir beceri gerektirdi. Bugün, inandırıcı fotogerçekçi sahte ürünler yaratmak neredeyse önemsiz hale geldi.
Bir yapay zeka modeli, birini nasıl işleyeceğini öğrendiğinde, görüntüsü bir yazılım oyuncağına dönüşür. AI, sonsuz miktarda görüntülerini oluşturabilir. Ve yapay zeka modeli paylaşılabilir ve diğer kişilerin de o kişinin görüntülerini oluşturmasına olanak tanır.
John: Bir sosyal medya vaka çalışması
Bu makaleyi yazmaya başladığımızda, cesur bir gönüllüye sosyal medya görüntülerini bir yapay zeka modelini sahte ürünler yaratacak şekilde eğitmek için kullanıp kullanamayacağımızı sorduk. Kabul ettiler, ancak sonuçlar çok inandırıcıydı ve itibar riskinin çok büyük olduğu ortaya çıktı. Bunun yerine, “John” diyeceğimiz hayali bir kişinin yedi simüle edilmiş sosyal medya fotoğrafından oluşan bir set oluşturmak için yapay zekayı kullandık. Bu şekilde, size sonuçları güvenle gösterebiliriz. Şimdilik John’un gerçek bir erkek olduğunu varsayalım. Sonuç, aşağıda göreceğiniz gibi tamamen aynı.
Hayali senaryomuzda, “John” bir ilkokul öğretmenidir. Çoğumuz gibi John da son 12 yılda Facebook’ta işinde, evinde dinlenirken veya bir yerlere giderken çekilmiş fotoğraflarını yayınladı.
Ars Teknik
Bu yedi görüntüden başka hiçbir şey kullanmayan biri, yapay zekayı John’un gizli bir hayatı varmış gibi gösteren görüntüler oluşturması için eğitebilir. Örneğin, sınıfında çıplak özçekimler yapmak isteyebilir. John geceleri palyaço gibi giyinerek barlara gidebilir. Hafta sonları aşırılık yanlısı bir paramiliter grubun parçası olabilir. Ve belki de yasadışı bir uyuşturucu suçundan hapis yatmış ama bunu işvereninden saklamış olabilir.
-
“John” geceleri palyaço gibi giyinir ve barlara gider.
Ars Teknik
-
Bir ofiste çıplak bir kadının yanında “John”. O evli ve bu onun karısı değil.
Ars Teknik
-
“John” paramiliter bir grubun parçası olarak hafta sonları eğitime zaman harcıyor.
Ars Teknik
-
John okuldan sonra sınıfında üstsüz rahatlıyor.
Ars Teknik
-
John, sadece birkaç yıl önce uyuşturucu suçundan hapis yattı ve okul sistemine asla söylemedi.
Ars Teknik
-
John çok acı çekiyor ya da belki başka bir şey yapıyor. Çalışan parçaları çıkardık.
Ars Teknik
AI’ya herhangi bir tarzda John’un resimlerini nasıl oluşturacağını öğretmek için Stable Diffusion (sürüm 1.5) adlı bir AI görüntü oluşturucu ve Dreambooth adlı bir teknik kullandık. John’umuz gerçek olmasa da, birisi herhangi bir kişinin beş veya daha fazla görüntüsüyle benzer sonuçları yeniden üretebilir. Bir sosyal medya hesabından çekilebilir veya hatta bir videodan hareketsiz kareler olarak alınabilirler.
