Cumartesi, Haziran 22, 2024
Ana SayfaTeknoloji HaberleriAI'nın tehlikesine karşı uyarıda bulunan öncü Geoffrey Hinton, özgürce konuşmak için Google'dan...

AI’nın tehlikesine karşı uyarıda bulunan öncü Geoffrey Hinton, özgürce konuşmak için Google’dan ayrıldı

2019 yılında Geoffrey Hinton.
Büyüt / Vector Institute’un baş bilim danışmanı Geoffrey Hinton, 5 Eylül 2019 Perşembe günü Toronto, Ontario, Kanada’da düzenlenen Uluslararası Amerika Kıtası Ekonomik Forumu (IEFA) Toronto Küresel Forumu sırasında konuşuyor.

Getty Images / Benj Edwards

The New York Times’a göre, yapay zeka öncüsü Dr. Geoffrey Hinton, yapay zekanın oluşturduğu potansiyel riskler hakkında “serbestçe konuşabilmek” için Google’dan istifa etti. Günümüzün üretken yapay zeka sistemlerinin arkasındaki bazı temel teknolojilerin yaratılmasına yardımcı olan Hinton, teknoloji endüstrisinin yapay zeka ürünleri geliştirme çabasının yanlış bilgilendirmeden iş kaybına ve hatta insanlık için bir tehdide kadar tehlikeli sonuçlara yol açabileceğinden korkuyor.

Times’ın aktardığına göre Hinton, “Beş yıl önce nasıl olduğuna ve şimdi nasıl olduğuna bakın” dedi. “Farkı alın ve ileriye doğru yayın. Bu korkutucu.”

Hinton’un yapay zeka alanındaki özgeçmişi 1972’ye kadar uzanıyor ve başarıları, üretken yapay zeka alanındaki mevcut uygulamaları etkiledi. 1987’de Hinton, David Rumelhart ve Ronald J. Williams, günümüzün üretken AI modellerinde kullanılan sinir ağlarını eğitmek için önemli bir teknik olan geri yayılımı popüler hale getirdi. 2012’de Hinton, Alex Krizhevsky ve Ilya Sutskever, genellikle yapay görme ve derin öğrenmede bir çığır açan AlexNet’i yarattı ve tartışmasız mevcut üretken yapay zeka çağımızı başlattı. 2018’de Hinton, Yoshua Bengio ve Yann LeCun ile birlikte bazılarının “Nobel Bilişim Ödülü” olarak adlandırdığı Turing Ödülü’nü kazandı.

Hinton, Google’ın Hinton’un şirketi DNNresearch’ü satın almasının ardından 2013 yılında Google’a katıldı. On yıl sonra ayrılışı, teknoloji endüstrisi için kayda değer bir anı işaret ediyor, çünkü aynı anda hem abartıyor hem de giderek daha karmaşık hale gelen otomasyon sistemlerinin potansiyel etkisi hakkında uyarıda bulunuyor. Örneğin, OpenAI’nin GPT-4’ünün Mart ayında piyasaya sürülmesi, bir grup teknoloji araştırmacısının, GPT-4’ten “daha güçlü” yeni AI sistemleri geliştirmeye yönelik altı aylık bir moratoryum çağrısı yapan bir açık mektup imzalamasına yol açtı. Bununla birlikte, bazı önemli eleştirmenler, bu tür korkuların abartıldığını veya yersiz olduğunu düşünüyor.

Hinton bu açık mektubu imzalamadı, ancak Google ve Microsoft gibi teknoloji devleri arasındaki yoğun rekabetin, yalnızca uluslararası düzenleme yoluyla durdurulabilecek küresel bir yapay zeka yarışına yol açabileceğine inanıyor. Yapay zekanın kontrol edilemez hale gelmesini önlemek için önde gelen bilim adamları arasındaki işbirliğini vurguluyor.

“Sanmıyorum [researchers] Kontrol edip edemeyeceklerini anlayana kadar bunu daha da büyütmeliler” dedi.

Hinton ayrıca fotoğraflarda, videolarda ve metinlerde yanlış bilgilerin çoğalmasından ve insanların neyin doğru olduğunu anlamalarını zorlaştırmasından da endişe duyuyor. Ayrıca, AI’nın başlangıçta insan işçileri tamamlayarak, ancak sonunda onların yerine avukat yardımcıları, kişisel asistanlar ve rutin görevleri yerine getiren tercümanlar gibi roller alarak iş piyasasını alt üst edebileceğinden korkuyor.

Hinton’un uzun vadeli endişesi, gelecekteki AI sistemlerinin, büyük miktarda veriden beklenmedik davranışlar öğrenirken insanlığı tehdit edebilmesidir. Times’a “Bu şeylerin aslında insanlardan daha akıllı olabileceği fikri – birkaç kişi buna inanıyordu” dedi. “Ama çoğu insan bunun çok uzak olduğunu düşündü. Ben de çok uzak olduğunu düşündüm. 30 ila 50 yıl, hatta daha uzun olduğunu düşündüm. Açıkçası, artık öyle düşünmüyorum.”

Hinton’ın uyarıları dikkate değer çünkü bir noktada o alanın en büyük savunucularından biriydi. 2015 Toronto Star profilinde Hinton, AI’nın geleceğine olan coşkusunu dile getirdi ve “Asla emekli olacağımı sanmıyorum” dedi. Ancak bugün Times, Hinton’ın yapay zekanın geleceğiyle ilgili endişesinin onu hayatı boyunca yaptığı işlerden kısmen pişmanlık duymaya ittiğini söylüyor. “Kendimi normal bir bahaneyle teselli ediyorum: Ben yapmasaydım başkası yapacaktı” dedi.

Bazı eleştirmenler, Hinton’un istifasına ve pişmanlıklarına şüpheyle baktılar. The New York Times haberine cevaben, Hugging Face’ten Dr. Sasha Luccioni tweet attı“İnsanlar bundan şu anlama geliyor: bakın, AI çok tehlikeli hale geliyor, öncüleri bile bırakıyor. Ben bunu şu şekilde görüyorum: Soruna neden olan insanlar şimdi gemiden atlıyor.”

Pazartesi günü Hinton, Google’dan ayrılma nedenlerini netleştirdi. O yazdı bir tweet’te: “Bugün NYT’de Cade Metz, Google’ı eleştirmek için Google’dan ayrıldığımı ima ediyor. Aslında, bunun Google’ı nasıl etkileyeceğini düşünmeden yapay zekanın tehlikeleri hakkında konuşabilmek için ayrıldım. Google çok sorumlu davrandı. .”

RELATED ARTICLES

Popüler Konular