Perşembe, Haziran 20, 2024
Ana SayfaTeknoloji HaberleriÇin'in en gelişmiş AI görüntü oluşturucusu zaten siyasi içeriği engelliyor

Çin’in en gelişmiş AI görüntü oluşturucusu zaten siyasi içeriği engelliyor

ERNIE-ViLG tarafından istemden oluşturulan görüntüler
büyüt / Çin bayrağının üzerine bindirilmiş “Çin” isteminden ERNIE-ViLG tarafından oluşturulan görüntüler.

Ars Teknik

MIT Technology Review için Zeyi Yang, Çin’in önde gelen metinden görüntüye sentez modeli Baidu’nun ERNIE-ViLG’sinin “Tiananmen Meydanı” gibi siyasi metinleri veya siyasi liderlerin isimlerini sansürlediğini bildirdi.

Görüntü sentezinin son zamanlarda sosyal medyada ve çevrimiçi sanat topluluklarında popüler (ve tartışmalı) olduğu kanıtlanmıştır. Stable Diffusion ve DALL-E 2 gibi araçlar, insanların “istem” adı verilen bir metin açıklaması yazarak hayal edebilecekleri hemen hemen her şeyin görüntülerini oluşturmalarına olanak tanır.

2021’de Çinli teknoloji şirketi Baidu, ERNIE-ViLG adlı kendi görüntü sentezi modelini geliştirdi ve halka açık demoları test ederken bazı kullanıcılar bunun siyasi ifadeleri sansürlediğini buldu. MIT Technology Review’un ayrıntılı raporunu takiben, Hugging Face’de barındırılan bir ERNIE-ViLG demosu üzerinde kendi testimizi yaptık ve “Çin’de demokrasi” ve “Çin bayrağı” gibi ifadelerin görüntü oluşturmadığını doğruladık. Bunun yerine, yaklaşık olarak “Giriş içeriği ilgili kurallara uymuyor, lütfen düzeltip tekrar deneyin!” yazan bir Çince uyarısı üretirler.

Oluşturmaya çalıştığınızda sonuç
büyüt / ERNIE-ViLG görüntü sentezi modelini kullanarak “Çin’de demokrasi” oluşturmaya çalıştığınızda ortaya çıkan sonuç. Alttaki durum uyarısı, “Girilen içerik ilgili kurallara uymuyor, lütfen düzeltip tekrar deneyin!” anlamına gelir.

Ars Teknik

Şimdiye kadar devlet sansüründen farklı bir biçim almış olsa da, görüntü sentezinde kısıtlamalarla karşılaşmak Çin’e özgü değil. DALL-E 2 örneğinde, Amerikan firması OpenAI’nin içerik politikası çıplaklık, şiddet ve siyasi içerik. Ancak bu, ABD hükümetinin baskısı nedeniyle değil, OpenAI adına gönüllü bir seçim. Midjourney ayrıca bazı içerikleri anahtar kelimeye göre gönüllü olarak filtreler.

Londra merkezli Stability AI’den Stable Diffusion, açık kaynak yapısı nedeniyle devre dışı bırakılabilen yerleşik bir “Güvenlik Filtresi” ile birlikte gelir, bu nedenle, nerede çalıştırdığınıza bağlı olarak bu modelle neredeyse her şey gider. Özellikle, Stabilite AI başkanı Emad Mostaque, dile getirildi görüntü sentezi modellerine yönelik hükümet veya kurumsal sansürden kaçınmak istemekle ilgili. Geçen hafta Reddit AMA yanıtında “Bence insanlar bu modelleri ve hizmetleri yaparken en iyi düşündüklerini yapmakta özgür olmalı” diye yazdı.

Baidu’nun Çin hükümetinden gelebilecek olası sorunları önlemek için ERNIE-ViLG modelini gönüllü olarak sansürleyip sansürlemediği veya potansiyel düzenlemelere (Ocak ayında önerilen derin sahtekarlıklarla ilgili bir hükümet kuralı gibi) yanıt verip vermediği açık değil. Ancak Çin’in teknoloji medya sansürlü geçmişi göz önüne alındığında, yakında AI tarafından oluşturulan bazı içerik türlerinde resmi bir kısıtlama görmek şaşırtıcı olmaz.

RELATED ARTICLES

Popüler Konular