yolculuk ortası
Çarşamba günü, ABD Senatörü Edward Markey (D-Mass.) ve Temsilciler Ted Lieu (D-Calif.), Don Beyer (D-Va.) ve Ken Buck (R-Colo.) bir çatışmayı önlemeyi amaçlayan iki partili bir yasayı duyurdular. yapay zeka sisteminin nükleer fırlatma kararları vermesini engelliyor. Otonom Yapay Zeka Yasası ile Blok Nükleer Fırlatma, “anlamlı insan kontrolü” olmaksızın otomatik bir sistem tarafından herhangi bir nükleer silahın fırlatılması için federal fonların kullanılmasını yasaklayacaktır.
Markey bir haber bülteninde, “Giderek artan bir şekilde dijital bir çağda yaşarken, nükleer silahları komuta etme, kontrol etme ve fırlatma gücünü tek başına insanların elinde tuttuğundan emin olmalıyız – robotların değil,” dedi. “Bu nedenle, Otonom Yapay Zeka Yasası ile Blok Nükleer Fırlatmayı sunmaktan gurur duyuyorum. Özellikle en tehlikeli silahlarımız için, ölümcül güç kullanmak üzere ölüm kalım kararları verme konusunda insanları döngünün içinde tutmalıyız.”
Yeni yasa tasarısı, her durumda “ABD’nin, Başkan’ın nükleer silah başlatma ve sona erdirme kararlarını bilgilendirmek ve uygulamak için kritik olan tüm eylemler için bir insanı ‘döngüde’ tutacağını” belirten mevcut ABD Savunma Bakanlığı politikasına dayanıyor. iş.”
Yeni yasa tasarısı, Savunma Bakanlığı ilkesini yasa haline getirmeyi amaçlıyor ve aynı zamanda, ABD’yi yalnızca insanların nükleer silahların kullanılmasına izin verebileceği politikasını doğrulamaya çağıran Yapay Zeka Ulusal Güvenlik Komisyonu’nun tavsiyesini takip ediyor.
Buck yaptığı açıklamada, “ABD’nin yapay zekayı askeri kullanımı ulusal güvenlik amaçlarını geliştirmek için uygun olsa da, yapay zekanın insan komuta ve kontrol zinciri olmadan nükleer silahları konuşlandırmak için kullanılması pervasız, tehlikeli ve yasaklanmalıdır” dedi. “En kritik ve hassas askeri kararlarda son sözü makinelerin değil, insanların söylemesini sağlamak için bu yasaya ortak sponsorluk yapmaktan gurur duyuyorum.”
Yeni yasa tasarısı, bir grup araştırmacıyı GPT-4’ten “daha güçlü” sistemlerin geliştirilmesinde bir duraklama çağrısında bulunmaya sevk eden, hızla ilerleyen (ve bazen yeterince anlaşılmayan ve abartılan) üretici AI teknolojisinin gelecekteki potansiyeli konusunda kaygı arttıkça geliyor. Martta.
GPT-4’ün nükleer bir saldırı başlatmasından korkulmuyor olsa da, OpenAI için günümüzün en popüler büyük dil modellerinin yeteneklerini değerlendiren bir grup AI araştırmacısı, gelecekteki daha gelişmiş AI sistemlerinin insan uygarlığı için bir tehdit olabileceğinden korkuyor. Bu korkunun bir kısmı, daha geniş makine öğrenimi topluluğunda tartışmalı olmaya devam eden yapay zekadan kaynaklanan varoluşsal tehditlere ilişkin endişelere rağmen, daha geniş bir nüfusa aktarıldı.
Teknolojideki sıcak konular bir yana, yeni yasa tasarısı aynı zamanda Markey ve Lieu’nun nükleer tırmanmayı önlemeye yönelik daha büyük bir planının parçası. İkili ayrıca yakın zamanda herhangi bir ABD başkanının Kongre’den önceden izin almadan nükleer saldırı başlatmasını yasaklayan bir yasa tasarısını yeniden gündeme getirdi. Kongre üyelerine göre genel amaç, “nükleer Kıyamet” riskini azaltmak ve nükleer silahlanmayı engellemek.
Senato’da Otonom Yapay Zeka Yasası ile Blok Nükleer Fırlatmanın yardımcı sponsorları arasında Bernie Sanders (I-Vt.) ve Elizabeth Warren (D-Mass.) yer alıyor.
