Ars Teknik
The Register’ın bildirdiğine göre, Çin’in Siber Uzay İdaresi kısa süre önce yapay zeka tarafından oluşturulmuş filigranlar gibi açık etiketler olmadan medya oluşturulmasını yasaklayan düzenlemeler yayınladı. Yeni kurallar, Çin’in 2022’de teknoloji dünyasını kasıp kavuran üretici yapay zeka trendine gelişen yanıtının bir parçası olarak geliyor ve 10 Ocak 2023’te yürürlüğe girecek.
Çin’de, Siber Uzay İdaresi İnternet’in düzenlenmesini, gözetimini ve sansürünü denetler. Yeni düzenlemelere göre yönetim, “derin sentez” teknolojisi olarak adlandırdığı teknolojiyi daha yakından takip edecek.
Çin Merkezi Siber Uzay İşleri Komisyonu Ofisi’nin web sitesinde yayınlanan bir haberde hükümet, düzenlemeyi yayınlama nedenlerini sıraladı. Çin’in gelecekteki ekonomik büyüme için önemli olduğunu kabul ettiği son metin, görüntü, ses ve video sentezi AI dalgasına işaret etti (Google Translate aracılığıyla çeviri):
Son yıllarda derin sentez teknolojisi hızla gelişmiştir. Kullanıcı ihtiyaçlarına hizmet ederken ve kullanıcı deneyimini geliştirirken, aynı zamanda bazı vicdansız kişiler tarafından yasa dışı ve zararlı bilgiler üretmek, kopyalamak, yayınlamak ve yaymak, başkalarının itibar ve onurunu karalamak ve küçük düşürmek ve başkalarının kimliklerini taklit etmek için kullanılmıştır. Dolandırıcılık vb. işlemler, iletişim düzenini ve toplum düzenini etkilemekte, kişilerin meşru hak ve menfaatlerine zarar vermekte, ulusal güvenlik ve toplumsal istikrarı tehlikeye atmaktadır.
“Yönetmelikler”in getirilmesi, güvenlik risklerinin önlenmesi ve çözülmesi için bir ihtiyaçtır ve aynı zamanda derinlemesine sentetik hizmetlerin sağlıklı bir şekilde geliştirilmesini teşvik etmek ve denetim yeteneklerinin seviyesini iyileştirmek için bir ihtiyaçtır.
Yönetmelikler kapsamında, yeni derin sentez ürünleri, hükümetin güvenlik değerlendirmesine tabi olacak. Her ürünün piyasaya sürülmeden önce yönetmeliklere uygun bulunması gerekir. Ayrıca yönetim, AI tarafından oluşturulan içeriği ifade eden bariz “işaretler” (filigranlar gibi) gerekliliğini özellikle vurgulamaktadır:
Derin sentez hizmetleri sağlayıcıları, hizmetleri kullanılarak oluşturulan veya düzenlenen bilgi içeriğinin kullanımını etkilemeyen işaretler eklemelidir. Bilgi içeriğini oluşturan veya önemli ölçüde değiştiren akıllı diyalog, sentezlenmiş insan sesi, insan yüzü oluşturma ve sürükleyici gerçekçi sahneler gibi işlevler sağlayan hizmetler, kamuoyunda kafa karışıklığını veya yanlış tanımlamayı önlemek için belirgin bir şekilde işaretlenecektir.
Hiçbir kuruluş veya kişinin ilgili işaretleri silmek, kurcalamak veya gizlemek için teknik araçlar kullanmaması gerekir.
Ayrıca, derin sentez teknolojisi sağlayan şirketler, kayıtlarını yasal olarak uyumlu tutmalı ve teknolojiyi kullanan kişiler, üretim faaliyetlerinin izlenebilmesi için gerçek adlarıyla hesaplara kaydolmalıdır.
ABD gibi Çin de yapay zeka destekli uygulamalarda bir patlama gördü. Örneğin, Çin’in önde gelen teknoloji şirketlerinden biri olan Baidu, DALL-E ve Stable Difüzyon’a benzer bir görüntü sentezi modeli üretti.
Son zamanlarda artan sayıda teknoloji uzmanı, Çin ve ABD’nin, güç yapılarına meydan okuyabilecek, dolandırıcılığa yol açabilecek ve hatta tarih anlayışımızı kurcalayabilecek, yaklaşan bir üretken yapay zeka dalgasıyla karşı karşıya olduğunu fark etti. Şimdiye kadar, iki ülke neredeyse birbirine zıt tepkilerle tepki gösterdi: ABD bağlayıcı olmayan yönergelere karşı Çin’in katı kısıtlamalarına karşı.
2019’da Çin, işaretlenmemiş “sahte haberler” derin sahtekarlıklarının yayınlanmasını yasadışı hale getiren ilk kurallarını yayınladı. Bu kurallar 2020’nin başlarında yürürlüğe girdi.
