ChatGPT dünyayı kasıp kavurdu. Piyasaya sürülmesinden sonraki iki ay içinde 100 milyon aktif kullanıcıya ulaşarak şimdiye kadar başlatılan en hızlı büyüyen tüketici uygulaması oldu. Kullanıcılar, aracın gelişmiş yeteneklerine ilgi duyuyor ve çeşitli sektörlerde kesintiye neden olma potansiyelinden endişe duyuyor.
Çok daha az tartışılan bir sonuç, ChatGPT’nin her birimiz için oluşturduğu gizlilik riskleridir. Daha dün Google, Bard adlı kendi konuşma yapay zekasını tanıttı ve diğerleri de kesinlikle onu takip edecek. Yapay zeka üzerinde çalışan teknoloji şirketleri iyi ve gerçekten bir silahlanma yarışına girdiler.
Sorun şu ki, kişisel verilerimizden besleniyor.
300 milyar kelime. Seninki kaç tane?
ChatGPT, çalışması ve iyileştirilmesi için çok büyük miktarda veri gerektiren büyük bir dil modeliyle desteklenir. Model ne kadar çok veri üzerinde eğitilirse, kalıpları tespit etmede, sonra ne olacağını tahmin etmede ve makul metin oluşturmada o kadar iyi olur.
ChatGPT’nin arkasındaki şirket olan OpenAI, araca internetten sistematik olarak kazınmış yaklaşık 300 milyar kelime verdi: izinsiz alınan kişisel bilgiler de dahil olmak üzere kitaplar, makaleler, web siteleri ve gönderiler.
Daha önce bir blog gönderisi veya ürün incelemesi yazdıysanız ya da çevrimiçi bir makaleye yorum yaptıysanız, bu bilgilerin ChatGPT tarafından kullanılmış olma olasılığı yüksektir.
Peki bu neden bir sorun?
ChatGPT’yi eğitmek için kullanılan veri toplama, birkaç nedenden dolayı sorunludur.
İlk olarak, hiçbirimize OpenAI’nin verilerimizi kullanıp kullanamayacağı sorulmadı. Bu, özellikle veriler hassas olduğunda ve bizi, aile üyelerimizi veya konumumuzu belirlemek için kullanılabiliyorsa, gizliliğin açık bir ihlalidir.
Veriler herkese açık olduğunda bile, kullanımı bağlamsal bütünlük dediğimiz şeyi ihlal edebilir. Bu, mahremiyetin yasal tartışmalarında temel bir ilkedir. Bireylerin bilgilerinin, orijinal olarak üretildiği bağlamın dışında ifşa edilmemesini gerektirir.
Ayrıca OpenAI, kişilerin şirketin kişisel bilgilerini saklayıp saklamadığını kontrol etmesi veya silinmesini talep etmesi için herhangi bir prosedür sunmaz. Bu, Avrupa Genel Veri Koruma Yönetmeliği’ne (GDPR) göre garantili bir haktır; ancak ChatGPT’nin GDPR gereklilikleriyle uyumlu olup olmadığı hâlâ tartışılmaktadır.
Bu “unutulma hakkı”, ChatGPT’de olağan bir durum gibi görünen bilgilerin yanlış veya yanıltıcı olduğu durumlarda özellikle önemlidir.
Ayrıca, ChatGPT’nin üzerinde eğitildiği kazınmış veriler tescilli olabilir veya telif hakkıyla korunabilir. Örneğin, onu yönlendirdiğimde, araç Peter Carey’nin “Kelly Çetesinin Gerçek Tarihi” adlı romanının telif hakkıyla korunan bir metninin ilk birkaç paragrafını oluşturdu.
Uri Gal tarafından ChatGPT’den ekran görüntüsü
Son olarak, OpenAI internetten kazıdığı veriler için ödeme yapmadı. Bunu üreten bireylere, web sitesi sahiplerine ve şirketlere tazminat ödenmedi. Bu, OpenAI’nin son zamanlarda 2021’deki değerinin iki katından fazla olan 29 milyar ABD doları değerinde olduğu düşünüldüğünde özellikle dikkate değer.
OpenAI ayrıca, müşterilere araca sürekli erişim, daha hızlı yanıt süreleri ve yeni özelliklere öncelikli erişim sunacak ücretli bir abonelik planı olan ChatGPT Plus’ı da duyurdu. Bu plan, 2024 yılına kadar 1 milyar dolarlık beklenen gelire katkıda bulunacak.
Verilerimiz -verilerimiz- iznimiz olmadan toplanmadan ve kullanılmadan bunların hiçbiri mümkün olmazdı.
Dayanıksız bir gizlilik politikası
Başka bir gizlilik riski, ChatGPT’ye kullanıcı istemleri biçiminde sağlanan verileri içerir. Araçtan soruları yanıtlamasını veya görevleri gerçekleştirmesini istediğimizde, hassas bilgileri istemeden başkalarına verebilir ve kamuya açık hale getirebiliriz.
Örneğin, bir avukat araçtan bir boşanma sözleşmesi taslağını incelemesini isteyebilir veya bir programcı ondan bir kod parçasını kontrol etmesini isteyebilir. Sözleşme ve kod, çıktısı alınan makalelere ek olarak artık ChatGPT veritabanının bir parçasıdır. Bu, aracı daha fazla eğitmek için kullanılabileceği ve diğer kişilerin istemlerine verilen yanıtlara dahil edilebileceği anlamına gelir.
Bunun ötesinde OpenAI, diğer kullanıcı bilgilerinin geniş bir kapsamını toplar. Şirketin gizlilik politikasına göre, kullanıcıların IP adreslerini, tarayıcı türlerini ve ayarlarını ve kullanıcıların etkileşimde bulunduğu içerik türleri, kullandıkları özellikler ve yaptıkları işlemler dahil olmak üzere siteyle etkileşimlerine ilişkin verileri toplar.
Ayrıca, kullanıcıların zaman içinde ve web siteleri genelinde göz atma etkinlikleri hakkında bilgi toplar. Endişe verici bir şekilde, OpenAI, kullanıcıların kişisel bilgilerini, iş hedeflerini gerçekleştirmek için, onları bilgilendirmeden, belirsiz üçüncü taraflarla paylaşabileceğini belirtiyor.
Dizginleme zamanı mı?
Bazı uzmanlar, ChatGPT’nin yapay zeka için bir dönüm noktası olduğuna inanıyor; bu, çalışma, öğrenme, yazma ve hatta düşünme biçimimizde devrim yaratabilecek bir teknolojik gelişmenin gerçekleşmesi. Potansiyel faydalarına rağmen, OpenAI’nin çıkarları ve ticari zorunlulukları daha büyük toplumsal ihtiyaçlarla uyumlu olması gerekmeyen özel, kar amaçlı bir şirket olduğunu unutmamalıyız.
ChatGPT’ye bağlı olarak gelen gizlilik riskleri bir uyarı sesi vermelidir. Artan sayıda AI teknolojisinin tüketicileri olarak, bu tür araçlarla hangi bilgileri paylaştığımız konusunda son derece dikkatli olmalıyız.
Konuşma, yorum için OpenAI’ye ulaştı, ancak son tarihe kadar yanıt vermediler.
Uri Gal Sidney Üniversitesi’nde işletme bilgi sistemleri profesörüdür.
Bu makale The Conversation’dan Creative Commons lisansı altında yeniden yayınlanmıştır. Orijinal makaleyi okuyun.
