Pazartesi, Haziran 24, 2024
Ana SayfaGündem HaberleriChatGPT ve Dall-E AI Sonuçlarını Filigranla İşaretlemeli

ChatGPT ve Dall-E AI Sonuçlarını Filigranla İşaretlemeli

Dall-E veya Midjourney AI tarafından oluşturulan Donald Trump'ın tutuklandığı bir görüntü

Fotoğraf: J David Ake (AP)

Eski Başkan Donald Trump’ın yaklaşan iddianamesine ilişkin söylentilerin sızdırılmasından kısa bir süre sonra, tutuklandığını gösteren görüntüler internette yayınlandı. Bu görüntüler haber fotoğrafları gibi görünüyordu ama sahteydi. Onlar üretken bir yapay zeka sistemi tarafından oluşturuldu.

Üretken yapay zeka, aşağıdakiler gibi görüntü üreteçleri biçimindedir: DALL-E, yolculuk ortası Ve Kararlı Difüzyonve gibi metin üreteçleri ozan, ChatGPT, Çinçilla Ve LLaMA, kamusal alanda patladı. Akıllı makine öğrenimi algoritmalarını milyarlarca insan yapımı içerikle birleştiren bu sistemler, bir altyazıdan ürkütücü derecede gerçekçi bir görüntü oluşturmaktan, Başkan Joe Biden’ın sesindeki bir konuşmayı sentezlemekten, bir kişinin benzerliğini bir videoda başka biriyle değiştirmekten her şeyi yapabilir. veya bir başlık isteminden 800 kelimelik tutarlı bir köşe yazısı yazın.

Üretken yapay zeka, bu ilk günlerde bile son derece gerçekçi içerik oluşturma yeteneğine sahiptir. Meslektaşım Sophie Nightingale ve ben ortalama bir insanın güvenilir bir şekilde ayırt edememek yapay zeka tarafından üretilmiş bir kişiden gerçek bir kişinin görüntüsü. Ses ve video tekinsiz vadiden henüz tam olarak geçmemiş olsa da – yakın oldukları için rahatsız edici olan ancak tam olarak gerçekçi olmayan insan görüntüleri veya modelleri – yakında geçmeleri muhtemeldir. Bu gerçekleştiğinde, ki bu neredeyse kesindir, gerçekliği çarpıtmak giderek daha kolay hale gelecektir.

Bu yeni dünyada, bir CEO’nun şirketinin kârının %20 düştüğünü ve bunun milyarlarca pazar payı kaybına yol açabileceğini söylediği bir videoyu oluşturmak veya bir dünya liderinin askeri harekatı tehdit ettiği bir videoyu oluşturmak çok kolay olacak. jeopolitik bir krizi tetikleyebilir veya cinsel içerikli bir videoya herhangi birinin benzerini eklemek.

Gerçek insanların sahte videolarını yapma teknolojisi giderek daha fazla kullanılabilir hale geliyor.

Üretken yapay zekadaki ilerlemeler, yakında sahte ama görsel olarak ikna edici içeriğin çevrimiçi olarak çoğalacağı ve daha da karmaşık bir bilgi ekosistemine yol açacağı anlamına gelecek. İkincil bir sonuç da, aleyhtarların polis şiddeti ve insan hakları ihlallerinden çok gizli belgeleri yakan bir dünya liderine kadar her şeyi sahte gerçek video kanıtı olarak kolayca göz ardı edebilecek olmalarıdır.

Toplum, üretken AI’daki bu ilerlemelerin neredeyse kesinlikle sadece başlangıcı olan şeyin namlusuna bakarken, bu suistimalleri hafifletmeye yardımcı olmak için kullanılabilecek makul ve teknolojik olarak uygulanabilir müdahaleler var. Bir bilgisayar bilimcisi olarak görüntü adli tıpta uzmanlaşmıştırÖnemli bir yöntemin filigran olduğuna inanıyorum.

Filigranlar

uzun var belge işaretleme geçmişi ve orijinalliğini kanıtlamak, mülkiyeti ve sahteciliği belirtmek için diğer öğeler. Bugün, devasa bir resim arşivi olan Getty Images, görünür bir filigran ekler kataloglarındaki tüm dijital görsellere. Bu, müşterilerin Getty’nin varlıklarını korurken resimlere özgürce göz atmasına olanak tanır.

Algılanamayan dijital filigranlar da dijital haklar yönetimi için kullanılır. Örneğin renginin (tipik olarak 0 ila 255 aralığında bir sayı) çift değerli olması için her 10. görüntü pikselinde bir filigran ayarlanarak bir dijital görüntüye bir filigran eklenebilir. Bu piksel ayarlaması çok küçük olduğu için filigran algılanamaz. Ve bu periyodik örüntünün doğal olarak meydana gelmesi olası olmadığından ve kolayca doğrulanabildiğinden, bir görüntünün kaynağını doğrulamak için kullanılabilir.

Orta çözünürlüklü görüntüler bile milyonlarca piksel içerir; bu, üretici yazılımı kodlayan benzersiz bir tanımlayıcı ve benzersiz bir kullanıcı kimliği dahil olmak üzere ek bilgilerin filigrana gömülebileceği anlamına gelir. Bu aynı algılanamaz filigran türü, ses ve videoya uygulanabilir.

İdeal filigran, algılanamayan ve aynı zamanda basit manipülasyonlara karşı dayanıklı kırpma, yeniden boyutlandırma, renk ayarı ve dijital formatları dönüştürme gibi. Piksel renk filigranı örneği, renk değerleri değiştirilebildiği için esnek olmasa da, bunları kaldırma girişimlerine karşı dayanıklı olmasa da sağlam olan birçok damgalama stratejisi önerilmiştir.

Filigran ve ücretsiz AI görüntü oluşturucular

Bu filigranlar üretici yapay zeka sistemlerine işlendi tüm eğitim verilerini filigranlayarak, ardından oluşturulan içerik aynı filigranı içerecektir. Bu fırınlanmış filigran çekici çünkü üretken yapay zeka araçlarının görüntü oluşturucu olarak açık kaynaklı olabileceği anlamına geliyor Kararlı Difüzyon – bir filigranlama işleminin görüntü oluşturucunun yazılımından kaldırılabileceği endişesi olmadan. Kararlı Difüzyon vardır filigran işleviancak açık kaynak olduğundan, herkes kodun o bölümünü kolayca kaldırabilir.

OpenAI filigran için bir sistemle deneme ChatGPT’nin kreasyonları. Bir paragraftaki karakterler elbette bir piksel değeri gibi değiştirilemez, bu nedenle metin filigranı farklı bir biçim alır.

Metin tabanlı üretici yapay zeka, bir sonraki en mantıklı kelimeyi üretmek Bir cümlede. Örneğin, “bir yapay zeka sistemi yapabilir…” cümle parçasıyla başlayarak ChatGPT, bir sonraki kelimenin “öğrenmek”, “tahmin etmek” veya “anlamak” olacağını tahmin edecektir. Bu kelimelerin her biri ile bağlantılı olarak, her kelimenin cümlede bir sonraki gelme olasılığına karşılık gelen bir olasılık vardır. ChatGPT, üzerinde eğitim aldığı büyük metin gövdesinden bu olasılıkları öğrendi.

Oluşturulan metin, bir kelime alt kümesini gizlice etiketleyerek ve ardından bir kelime seçimini eşanlamlı etiketli bir kelime olacak şekilde ayarlayarak filigran eklenebilir. Örneğin, “anlamak” yerine “anlamak” etiketli kelimesi kullanılabilir. Sözcük seçimini bu şekilde periyodik olarak saptırarak, etiketli sözcüklerin belirli bir dağılımına dayalı olarak bir metin gövdesi filigranlanır. Bu yaklaşım kısa tweet’ler için işe yaramaz, ancak belirli filigran ayrıntılarına bağlı olarak genellikle 800 veya daha fazla kelimeden oluşan metinlerde etkilidir.

Üretken yapay zeka sistemleri, tüm içeriklerini filigranlayabilir ve yapması gerektiğine inanıyorum, bu da aşağı yönde daha kolay tanımlama ve gerekirse müdahaleye olanak tanır. Endüstri bunu gönüllü olarak yapmazsa, milletvekilleri bu kuralı uygulamak için düzenleme yapabilirler. Vicdansız insanlar elbette bu standartlara uymayacaktır. Ancak, büyük çevrimiçi bekçiler – Apple ve Google uygulama mağazaları, Amazon, Google, Microsoft bulut hizmetleri ve GitHub – uyumlu olmayan yazılımları yasaklayarak bu kuralları uygularsa, zarar önemli ölçüde azalır.

Özgün içerik imzalama

Sorunu diğer taraftan ele alarak, yakalama noktasında orijinal görsel-işitsel kayıtların kimliğini doğrulamak için benzer bir yaklaşım benimsenebilir. Özel bir kamera uygulaması, kaydedilen içeriği kaydedildiği gibi kriptografik olarak imzalayabilir. Girişime dair kanıt bırakmadan bu imzayı kurcalamanın bir yolu yok. İmza daha sonra merkezi bir güvenilir imzalar listesinde saklanır.

Metin için geçerli olmasa da, görsel-işitsel içeriğin insan tarafından üretildiği doğrulanabilir. bu İçerik Kaynağı ve Kimlik Doğrulaması için Koalisyon (C2PA), ortamın kimliğini doğrulamak için bir standart oluşturmaya yönelik ortak bir çaba, yakın zamanda bu yaklaşımı desteklemek için açık bir belirtim yayınladı. Adobe, Microsoft, Intel, BBC ve diğerlerinin de dahil olduğu büyük kurumların bu çabaya katılmasıyla C2PA, etkili ve geniş çapta dağıtılan kimlik doğrulama teknolojisi üretmek için iyi bir konuma sahiptir.

İnsan tarafından oluşturulan ve yapay zeka tarafından oluşturulan içeriğin bir arada imzalanması ve filigranlanması, her türlü kötüye kullanımı önlemeyecek, ancak bir ölçüde koruma sağlayacaktır. Düşmanlar en son teknolojileri silahlandırmak için yeni yollar buldukça, her tür korumanın sürekli olarak uyarlanması ve rafine edilmesi gerekecektir.

Toplumun savaştığı gibi, diğer siber tehditlere karşı onlarca yıllık savaş spam, kötü amaçlı yazılım ve kimlik avı gibi, üretken yapay zeka kullanılarak işlenen çeşitli kötüye kullanım biçimlerine karşı kendimizi eşit derecede uzun süreli bir savaşa hazırlamalıyız.

Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.


Hani FaridBilgisayar Bilimleri Profesörü, Kaliforniya Üniversitesi, Berkeley

Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.

RELATED ARTICLES

Popüler Konular