Çin’in en gelişmiş AI görüntü oluşturucusu zaten siyasi içeriği engelliyor

MIT Technology Review için Zeyi Yang, Çin’in önde gelen metinden görüntüye sentez modeli Baidu’nun ERNIE-ViLG’sinin “Tiananmen Meydanı” gibi siyasi metinleri veya siyasi liderlerin isimlerini sansürlediğini bildirdi.

Görüntü sentezinin son zamanlarda sosyal medyada ve çevrimiçi sanat topluluklarında popüler (ve tartışmalı) olduğu kanıtlanmıştır. Stable Diffusion ve DALL-E 2 gibi araçlar, insanların “istem” adı verilen bir metin açıklaması yazarak hayal edebilecekleri hemen hemen her şeyin görüntülerini oluşturmalarına olanak tanır.

2021’de Çinli teknoloji şirketi Baidu, ERNIE-ViLG adlı kendi görüntü sentezi modelini geliştirdi ve halka açık demoları test ederken bazı kullanıcılar bunun siyasi ifadeleri sansürlediğini buldu. MIT Technology Review’un ayrıntılı raporunu takiben, Hugging Face’de barındırılan bir ERNIE-ViLG demosu üzerinde kendi testimizi yaptık ve “Çin’de demokrasi” ve “Çin bayrağı” gibi ifadelerin görüntü oluşturmadığını doğruladık. Bunun yerine, yaklaşık olarak “Giriş içeriği ilgili kurallara uymuyor, lütfen düzeltip tekrar deneyin!” yazan bir Çince uyarısı üretirler.

Şimdiye kadar devlet sansüründen farklı bir biçim almış olsa da, görüntü sentezinde kısıtlamalarla karşılaşmak Çin’e özgü değil. DALL-E 2 örneğinde, Amerikan firması OpenAI’nin içerik politikası çıplaklık, şiddet ve siyasi içerik. Ancak bu, ABD hükümetinin baskısı nedeniyle değil, OpenAI adına gönüllü bir seçim. Midjourney ayrıca bazı içerikleri anahtar kelimeye göre gönüllü olarak filtreler.

Londra merkezli Stability AI’den Stable Diffusion, açık kaynak yapısı nedeniyle devre dışı bırakılabilen yerleşik bir “Güvenlik Filtresi” ile birlikte gelir, bu nedenle, nerede çalıştırdığınıza bağlı olarak bu modelle neredeyse her şey gider. Özellikle, Stabilite AI başkanı Emad Mostaque, dile getirildi görüntü sentezi modellerine yönelik hükümet veya kurumsal sansürden kaçınmak istemekle ilgili. Geçen hafta Reddit AMA yanıtında “Bence insanlar bu modelleri ve hizmetleri yaparken en iyi düşündüklerini yapmakta özgür olmalı” diye yazdı.

Baidu’nun Çin hükümetinden gelebilecek olası sorunları önlemek için ERNIE-ViLG modelini gönüllü olarak sansürleyip sansürlemediği veya potansiyel düzenlemelere (Ocak ayında önerilen derin sahtekarlıklarla ilgili bir hükümet kuralı gibi) yanıt verip vermediği açık değil. Ancak Çin’in teknoloji medya sansürlü geçmişi göz önüne alındığında, yakında AI tarafından oluşturulan bazı içerik türlerinde resmi bir kısıtlama görmek şaşırtıcı olmaz.