FBI Pazartesi günü, reşit olmayanları ve danışmanlık yapmayan yetişkinleri taciz etmeye veya onları fidye ödemeye veya diğer taleplere uymaya zorlamaya çalışan seks şantaj planlarında kullanılmak üzere sahte videolar oluşturmak için yapay zekanın artan kullanımı konusunda uyardı.
Cinsel taciz belası onlarca yıldır var olmuştur. Çevrimiçi bir tanıdığın veya bir yabancının bir kişiyi ödeme yapması, müstehcen veya cinsellik temalı bir fotoğraf vermesi veya zaten elde edilmiş uygunsuz görüntüleri kamuyla paylaşma tehdidi yoluyla başka bir teşvik sağlaması için kandırmasını içerir. Bazı durumlarda, dolandırıcıların sahip olduğu görüntüler gerçektir ve kurbanın tanıdığı birinden veya ihlal edilmiş bir hesaptan alınmıştır. Diğer zamanlarda, dolandırıcılar herhangi bir kanıt sunmadan yalnızca müstehcen materyallere sahip olduklarını iddia ederler.
Dolandırıcılar, kurbanları müstehcen veya uzlaşmacı resimlerin dolandırıcıların mülkiyetinde olduğuna ikna ettikten sonra, içeriği aile üyelerine, arkadaşlara veya işverenlere göndermemek karşılığında bir tür ödeme talep eder. Kurbanların ödeme olarak müstehcen görüntüler göndermesi durumunda, dolandırıcılar dolandırıcılığı olabildiğince uzun süre devam ettirmek için genellikle yeni içeriği kullanır.
Son aylarda FBI, Pazartesi günü yayınlanan bir uyarıda, gerçek kişilerin müstehcen faaliyetlerde bulunduğunu gösteriyormuş gibi görünen sahte videolar oluşturmak için yapay zeka kullanımının arttığını söyledi.
Yetkililer, “FBI, fotoğrafları veya videoları müstehcen içeriğe dönüştürülen küçük çocuklar ve rıza göstermeyen yetişkinler de dahil olmak üzere kurbanlardan raporlar almaya devam ediyor.” “Fotoğraflar veya videolar daha sonra sosyal medyada veya pornografik web sitelerinde, kurbanları taciz etmek veya cinsel şantaj düzenleri amacıyla halka açık bir şekilde dağıtılıyor.”
Yazmaya devam ettiler:
Nisan 2023 itibarıyla FBI, sosyal medya sitelerinde veya web gönderilerinde yayınlanan içerikten oluşturulan, kötü niyetli aktöre istek üzerine sağlanan veya görüntülü sohbetler sırasında yakalanan sahte görüntülerin veya videoların kullanıldığını bildiren cinsel taciz kurbanlarında bir artış gözlemledi. Yakın tarihli mağdur bildirimlerine göre, kötü niyetli aktörler genellikle şunları talep ettiler: 1. Fon alınmazsa, görüntüleri veya videoları aile üyeleri veya sosyal medya arkadaşlarıyla paylaşmakla tehdit eden ödeme (örn. para, hediye çekleri); veya 2. Mağdur, gerçekten cinsel temalı resimler veya videolar gönderir.
Derin sahte denilen videolar oluşturmak için yazılım ve bulut tabanlı hizmetler, çevrimiçi olarak bol miktarda bulunur ve ücretsiz olarak sunulan açık kaynak tekliflerinden abonelik hesaplarına kadar geniş bir yelpazede çalışır. Son yıllarda AI’daki gelişmelerle birlikte, bu tekliflerin kalitesi, kişinin yüzünün tek bir görüntüsünün, sahte bir videoda kişinin benzerliğini kullanan gerçekçi videolar oluşturmak için gereken tek şey olduğu noktaya kadar büyük ölçüde iyileşti.
Deepfake tekliflerinin çoğu, en azından görünüşte, örneğin programın “uygunsuz medya” üzerinde çalışmasını önlemek için tasarlanmış yerleşik bir kontrol kullanarak derin sahte kötüye kullanımı önlemek için tasarlanmış korumalar içerir. Uygulamada, bu korkulukların etrafından dolaşılması genellikle kolaydır ve yer altı pazarlarında kısıtlamalarla birlikte sunulmayan hizmetler mevcuttur.
FBI yetkilileri, dolandırıcıların genellikle kurbanların fotoğraflarını sosyal medyadan veya başka yerlerden alıp “bir kurbana benzer şekilde gerçek hayattaki gibi görünen cinsel temalı görüntüler oluşturmak için kullandığını ve ardından bunları sosyal medyada, halka açık forumlarda veya pornografik web sitelerinde dolaştırdığını” uyardı. . “Reşit olmayanların da dahil olduğu pek çok kurban, başka biri tarafından dikkatlerine getirilene kadar görüntülerinin kopyalandığından, manipüle edildiğinden ve dağıtıldığından habersizdir. Daha sonra fotoğraflar, kötü niyetli aktörler tarafından cinsel taciz veya taciz için doğrudan kurbanlara gönderilir. İnternette kendi kendine keşfedildi. Bir kez dağıtıldığında, mağdurlar, manipüle edilmiş içeriğin sürekli olarak paylaşılmasını veya İnternetten kaldırılmasını önlemede önemli zorluklarla karşılaşabilir.”
FBI, insanları görüntülerinin derin sahtekarlıklarda kullanılmasını önlemek için önlem almaya çağırdı.
Yetkililer, “Gönderildiğinde veya paylaşıldığında zararsız gibi görünseler de, görüntüler ve videolar kötü niyetli aktörlere suç faaliyetleri için yararlanmaları için bol miktarda içerik sağlayabilir.” “İçerik oluşturma teknolojisindeki gelişmeler ve çevrimiçi olarak erişilebilen kişisel görüntüler, kötü niyetli aktörlerin kurbanları bulması ve hedef alması için yeni fırsatlar sunuyor. Bu, onları utanç, taciz, gasp, mali kayıp veya uzun vadeli yeniden mağduriyete karşı savunmasız bırakıyor.”
Cinsel taciz tehdidi alan kişiler, mevcut tüm kanıtları, özellikle de ekran görüntüleri, metinler, teyp kayıtları, kullanıcı adlarını, e-posta adreslerini, web sitelerini veya iletişim için kullanılan platformların adlarını ve IP adreslerini belgeleyen e-postaları saklamalıdır. Cinsel istismarı hemen şu adrese bildirebilirler:
