Perşembe günü Başkan Joe Biden, Beyaz Saray’da Google, Microsoft, OpenAI ve Anthropic dahil olmak üzere önde gelen AI şirketlerinin CEO’ları ile bir toplantı düzenleyerek AI ürünlerinin dağıtımdan önce güvenliğini sağlamanın önemini vurguladı. Toplantı sırasında Biden, yöneticileri yapay zekanın oluşturduğu riskleri ele almaya çağırdı. Ancak bazı yapay zeka uzmanları, yıllardır yapay zekanın tehlikeleri konusunda uyarıda bulunan etik araştırmacılarının dışlanmasını eleştirdi.
Geçtiğimiz birkaç ay içinde, ChatGPT gibi üretken AI modelleri hızla popülerlik kazandı ve yoğun teknoloji heyecanını topladı ve şirketleri benzer ürünleri hızlı bir şekilde geliştirmeye yöneltti.
Ancak, potansiyel mahremiyet sorunları, istihdam yanlılığı ve bunların yanlış bilgilendirme kampanyaları oluşturmak için kullanılma potansiyeli hakkında endişeler artıyor. Beyaz Saray’a göre yönetim, yöneticilerle “açık ve yapıcı bir tartışma” sırasında daha fazla şeffaflık, güvenlik değerlendirmeleri ve kötü niyetli saldırılara karşı koruma çağrısında bulundu.
Toplantının en yüksek profilli katılımcıları arasında Google’dan Sundar Pichai, Microsoft’tan Satya Nadella, OpenAI’den Sam Altman ve Anthropic’ten Dario Amodei yer aldı.
Toplantıya Başkan Yardımcısı Kamala Harris başkanlık etti ve Biden’ın “geldiği” bir videoda Twitter’da yayınlandıBaşkan, “Teşekkür etmeye geldim. Yaptığınız şey çok büyük bir potansiyele ve çok büyük bir tehlikeye sahip. Bunu anladığınızı biliyorum. Ve umarım bizi korumak için en gerekli olduğunu düşündüğünüz şey konusunda eğitebilirsiniz.” ilerlemenin yanı sıra toplum için. Bu gerçekten çok önemli.”
Geçen sonbaharda Biden yönetimi, Amerikalıları önyargı, ayrımcılık ve mahremiyet sorunları da dahil olmak üzere otomatik sistemlerin zararlı etkilerinden korumayı amaçlayan “AI Bill of Rights” adlı bir dizi yönerge yayınladı.
AI etik araştırmacıları yanıt veriyor
Biden’ın daveti, sıcak bir politika konusuna yöneticilerin ilgisini gösterirken, davetli şirketlerin etik sicillerini eleştirenler toplantıdan etkilenmedi ve birçok kişiyle seçimi sorgulamak Beyaz Saray’ın ele almaya çalıştığı AI ile ilgili sorunları yaratan şirketleri temsil ettiğini iddia ettikleri insanları toplantıya davet etmek.
Twitter’da yapay zeka araştırmacısı Dr. Timnit Gebru yazdı“Görünüşe göre zamanımızın yarısını çeşitli yasa koyucular ve kurumlarla konuşarak geçiriyoruz ve HALA bu boka sahibiz. Bize sorunları veren ve riskler hakkında konuştuğumuz için bizi kovan heriflerle dolu bir oda, lanet olası başkan tarafından çağrılıyor ‘insanların haklarını korumak’ için.”
2020’de Google, ortak yazdığı ve büyük ölçekli dil modellerindeki potansiyel riskleri ve önyargıları vurgulayan bir araştırma makalesiyle ilgili bir anlaşmazlığın ardından Gebru’yu görevden aldı. Olay, yapay zeka araştırma topluluğu içinde Google’ın yapay zeka etiğine bağlılığı hakkında tartışmalara yol açtı.
Benzer şekilde, Oxford Üniversitesi AI etik araştırmacısı Elizabeth Renieris tweet attı“Maalesef ve tüm saygımla POTUS, #AI söz konusu olduğunda “toplumu korumak için en çok neyin gerekli olduğunu” bize söyleyebilecek kişiler bunlar değil.”
Eleştiri, genellikle “AI güvenliği” (öncelikle AI’dan kaynaklanan varsayımsal varoluşsal riskle ilgili, OpenAI çalışanları ile açıkça ilişkilendirilen gevşek bir hareket) ve “AI etiği” (büyük ölçüde yanlış uygulamalar ve etkilerle ilgilenen bir grup araştırmacı) arasındaki ortak ayrımı yansıtıyor. önyargı ve yanlış bilgi dahil olmak üzere mevcut yapay zeka sistemlerinin
Bu doğrultuda, yazar Dr. Brandeis Marshall önerildi Beyaz Saray toplantısına Hugging Face, Dağıtılmış Yapay Zeka Araştırma Enstitüsü, UCLA Kritik İnternet Araştırma Merkezi ve Algoritmik Adalet Ligi’ni içerecek bir “karşı toplantı” düzenlemek.
Yine Perşembe günü Beyaz Saray, Ulusal Bilim Vakfı aracılığıyla yedi yapay zeka araştırma enstitüsü kurmak için 140 milyon dolarlık bir yatırım yapacağını duyurdu. Ayrıca Anthropic, Google, Hugging Face, Nvidia, OpenAI ve Stability AI, DEF CON 31’de yapay zeka sistemlerinin halka açık değerlendirmelerine katılacak.
Beyaz Saray toplantısından sonra Harris, “Özel sektör, ürünlerinin emniyetini ve güvenliğini sağlamak için etik, ahlaki ve yasal bir sorumluluğa sahiptir. Ve her şirket, Amerikan halkını korumak için mevcut yasalara uymak zorundadır. Ben Önümüzdeki haftalarda takip ve takip için sabırsızlanıyoruz.”
