Pazartesi günü bir tweet attı Pentagon’da büyük bir patlama olduğunu düşündüren yapay zeka tarafından oluşturulan görüntü, borsada bildirilen küçük bir düşüşü de içeren kısa bir kafa karışıklığına yol açtı. Tanınmış Bloomberg medya şirketiyle bağlantısı olmayan “Bloomberg Feed” adlı doğrulanmış bir Twitter hesabından kaynaklandı ve kısa sürede bir aldatmaca olduğu ortaya çıktı. Bununla birlikte, The Washington Post’un bildirdiğine göre, Rusya Today gibi büyük hesaplar, çürütülmeden önce yanlış bilgileri çoktan yaymıştı.
Sahte görüntü, “Washington DC’deki Pentagon Kompleksi yakınlarında Büyük Patlama – İlk Rapor” tweetiyle belli belirsiz Pentagon’u anımsatan bir binanın yanında büyük bir siyah duman bulutunu gösteriyordu. Daha yakından incelendiğinde, yerel makamlar görüntünün Pentagon’u tam olarak yansıtmadığını doğruladı. Ayrıca, bulanık çit çubukları ve bina sütunlarıyla, Stable Diffusion gibi bir model tarafından oluşturulmuş oldukça özensiz, yapay zeka tarafından oluşturulmuş bir görüntü gibi görünüyor.
Post’a göre Twitter, sahte Bloomberg hesabını askıya almadan önce 224.000 kez tweet attı ve 1.000’den az takipçiye ulaştı, ancak hesabı kimin yönettiği veya yanlış imajı paylaşmanın ardındaki nedenler belli değil. Bloomberg Feed’e ek olarak, yanlış raporu paylaşan diğer hesaplar arasında gerçek Bloomberg organizasyonuyla bağlantısı olmayan “Walter Bloomberg” ve “Breaking Market News” yer alıyor.
Bu olay, yapay zeka tarafından üretilen görüntülerin alelacele paylaşılan sosyal medya ve Twitter’daki ücretli bir doğrulama sistemi alanında sunabileceği potansiyel tehditlerin altını çiziyor. Mart ayında, Midjourney ile oluşturulan Donald Trump’ın tutuklanmasına ilişkin sahte görüntüler geniş bir izleyici kitlesine ulaştı. Açıkça sahte olarak işaretlenmiş olsalar da, gerçekçilikleri nedeniyle onları gerçek fotoğraflarla karıştırma korkusu uyandırdılar. Aynı ay, beyaz önlüklü Papa Francis’in AI tarafından oluşturulan görüntüleri, onları sosyal medyada gören birçok kişiyi kandırdı.
Kabarık paltolu papa bir şeydir, ancak birisi sahte bir tweet’te Birleşik Devletler Savunma Bakanlığı’nın karargahı gibi bir hükümet konusuna yer verdiğinde, sonuçlar potansiyel olarak daha ciddi olabilir. Twitter’daki genel kafa karışıklığının yanı sıra, aldatıcı tweet borsayı etkilemiş olabilir. Washington Post, Dow Jones Sanayi Endeksi’nin tweet’in yayılmasından sonra dört dakika içinde 85 puan düştüğünü ancak hızla toparlandığını söylüyor.
Sahte tweet konusundaki kafa karışıklığının çoğu, yeni sahibi Elon Musk yönetimindeki Twitter’da yapılan değişikliklerle mümkün olmuş olabilir. Musk, devralmasından kısa bir süre sonra içerik denetleme ekiplerini görevden aldı ve hesap doğrulama sürecini büyük ölçüde otomatikleştirerek herkesin mavi onay işareti için ödeme yapabileceği bir sisteme geçiş yaptı. Eleştirmenler, uygulamanın platformu yanlış bilgilere karşı daha duyarlı hale getirdiğini iddia ediyor.
Yetkililer yanlışlıklar nedeniyle patlama fotoğrafının sahte olduğunu kolayca seçebilse de, Midjourney ve Stable Diffusion gibi görüntü sentezi modellerinin varlığı, ikna edici sahte fotoğraflar oluşturmak için artık sanatsal beceri gerektirmediği, giriş engellerini indirdiği ve potansiyel olarak otomatikleştirilmiş fotoğraf makinelerine kapıyı açtığı anlamına geliyor. yanlış bilgilendirme makineleri Twitter gibi bir platformun viral doğası ile birleştiğinde sahte oluşturmanın kolaylığı, yanlış bilgilerin kontrol edilebileceğinden daha hızlı yayılabileceği anlamına gelir.
Ancak bu durumda, etki yaratmak için görüntünün yüksek kalitede olması gerekmiyordu. İnsan hakları örgütü Witness’ın yönetici direktörü Sam Gregory, The Washington Post’a, insanların inanmak istediklerinde gardlarını indirdiklerini ve paylaşmadan önce bilginin doğruluğuna bakmadıklarını belirtti. Sahte Pentagon imajını “sığ bir sahte” olarak tanımladı (daha ikna edici bir “derin sahte” yerine).
“İnsanların bu sığ sahtekarlıklara maruz kalma biçimleri, bir şeyin dikkat çekmesi için başka bir şeye tıpatıp benzemesine gerek yok” dedi. “İnsanlar tam olarak doğru görünmeyen ama doğru hissettiren şeyleri kolayca alıp paylaşacaklar.”
