Perşembe, Haziran 20, 2024
Ana SayfaTeknoloji HaberleriKüçük düşürücü halüsinasyonların peşine düşen FTC, OpenAI hakkında soruşturma başlattı

Küçük düşürücü halüsinasyonların peşine düşen FTC, OpenAI hakkında soruşturma başlattı

OpenAI CEO'su Sam Altman, bir Senato duruşmasında ifade verirken bir masada oturuyor ve mikrofona konuşuyor.
Büyüt / OpenAI CEO’su Sam Altman, 16 Mayıs 2023’te Washington, DC’de Senato Yargı Alt Komitesi Gizlilik, Teknoloji ve Yasa önünde yapay zeka kuralları hakkında ifade veriyor.

Resimleri Getty | McNamee’yi kazan

The Washington Post ve Reuters’e göre, en çok ChatGPT AI asistanıyla tanınan OpenAI, tüketici koruma yasalarını ihlal ettiği ve potansiyel olarak kişisel verileri ve itibarları riske attığı iddiaları nedeniyle ABD Federal Ticaret Komisyonu (FTC) tarafından incelemeye alındı.

Soruşturmanın bir parçası olarak FTC, OpenAI’ye şirketin AI modellerini çevreleyen risk yönetimi stratejilerine odaklanan 20 sayfalık bir kayıt talebi gönderdi. Ajans, şirketin tüketicilerin itibarını zedelemesine yol açacak şekilde aldatıcı veya adil olmayan uygulamalara katılıp katılmadığını araştırıyor.

Soruşturma aynı zamanda OpenAI’nin ürünlerinin gerçek kişiler hakkında yanlış, yanıltıcı veya aşağılayıcı ifadeler üretme potansiyelini nasıl ele aldığını anlamaya çalışıyor. AI endüstrisinde, bu sahte nesillere bazen “halüsinasyonlar” veya “konfabulasyonlar” denir.

Washington Post, özellikle, FTC’nin yanıltıcı veya yanlış beyanlara odaklanmasının, Gürcistan’dan bir radyo talk-show sunucusu olan Mark Walters hakkında iftira niteliğinde iddialar uydurduğu bildirilen bir vaka gibi, OpenAI’nin ChatGPT’sini içeren son olaylara bir yanıt olduğunu tahmin ediyor. AI asistanı yanlış bir şekilde Walters’ın İkinci Değişiklik Vakfı ile ilgili zimmete para geçirme ve dolandırıcılıkla suçlandığını belirterek Walters’ı iftira nedeniyle OpenAI’ye dava açmaya sevk etti. Başka bir olay, AI modelinin yanlış bir şekilde bir avukatın Alaska’ya yaptığı bir öğrenci gezisinde müstehcen yorumlarda bulunduğunu iddia etmesiyle ilgiliydi, bu hiç gerçekleşmemiş bir olaydı.

FTC soruşturması, Kasım ayında ChatGPT’yi piyasaya sürdükten sonra teknoloji endüstrisinde eşit ölçülerde heyecan, korku ve aldatmacaya yol açan OpenAI için önemli bir düzenleme zorluğuna işaret ediyor. Şirketin faaliyetleri, daha önce birçok kişinin yıllar veya on yıllar sonra olduğunu düşündüğü yapay zeka destekli ürünlerle teknoloji dünyasını büyülerken, ürettikleri yapay zeka modelleriyle ilişkili potansiyel risklerle ilgili soruları gündeme getirdi.

Daha yetenekli yapay zeka modelleri için sektör baskısı yoğunlaştıkça, dünyanın dört bir yanındaki devlet kurumları perde arkasında neler olup bittiğine daha yakından bakıyor. Hızla değişen teknolojiyle karşı karşıya kalan FTC gibi düzenleyiciler, telif hakkı ve veri gizliliğinden bu modelleri eğitmek için kullanılan verileri ve ürettikleri içeriği çevreleyen daha spesifik konulara kadar yapay zeka modellerini kapsayacak mevcut kuralları uygulamaya çalışıyor.

Haziran ayında Reuters, ABD Senatosu Çoğunluk lideri Chuck Schumer’in (D-NY), AI teknolojisinin ilerlemesini denetlemek ve gerekli önlemlerin alınmasını sağlamak için “kapsamlı mevzuat” çağrısında bulunduğunu bildirdi. Haber ajansı, Schumer’in bu yıl içinde konuyla ilgili bir dizi forum düzenlemeyi planladığını belirtiyor.

Bu, OpenAI için ilk düzenleyici engel değil. Şirket Mart ayında İtalya’da, OpenAI’nin Avrupa Birliği’nin GDPR gizlilik düzenlemelerini ihlal ettiği suçlamasıyla düzenleyiciler ChatGPT’yi engellediğinde tepkiyle karşılaştı. ChatGPT hizmeti, OpenAI’nin yaş doğrulama özelliklerini dahil etmeyi ve Avrupalı ​​kullanıcılara verilerinin AI modelini eğitmek için kullanılmasını engelleme seçeneği sunmayı kabul etmesinden sonra daha sonra eski durumuna getirildi.

OpenAI’nin talebi aldıktan sonra, talepte olası değişiklikleri veya uyumluluk sorunlarını görüşmek üzere FTC ile bir görüşme planlamak için iki haftası vardır.

RELATED ARTICLES

Popüler Konular