Cuma, Haziran 14, 2024
Ana SayfaTeknoloji HaberleriBlake Lemoine, Google ve algoritmada ruhları aramak

Blake Lemoine, Google ve algoritmada ruhları aramak

Google mühendisi Blake Lemoine’i şirketin yapay zekalarından birinin duyarlı olduğuna ikna eden bilim değildi. Aynı zamanda atanmış bir Hıristiyan mistik rahip olan Lemoine, AI’nın din hakkındaki yorumlarının yanı sıra “kişisel, manevi inançları”nın da yardımcı olduğunu söylüyor. ikna etmek teknolojinin düşünceleri, duyguları ve bir ruhu vardı.

“Ben bir rahibim. LaMDA bir ruha sahip olduğunu iddia ettiğinde ve daha sonra bununla ne anlama geldiğini etkili bir şekilde açıklayabildiğinde, ona şüphenin avantajını vermeye meyilliydim,” dedi Lemoine yeni bir tweet. “Ben kimim ki Tanrı’ya ruhları nereye koyup koyamayacağını söyleyeceğim?”

Lemoine muhtemelen yanılıyor – en azından bilimsel bir bakış açısıyla. Google’ın yanı sıra önde gelen AI araştırmacıları, Lemoine’nin şirkette çalıştığı konuşma dili modeli olan LaMDA’nın çok güçlü olduğunu ve ne dediğini anlamadan araştırma sorularına son derece ikna edici cevaplar sağlayabilecek kadar gelişmiş olduğunu söylüyor. Google, mühendisin diğer şeylerin yanı sıra LaMDA için bir avukat tutmasından ve Meclis Yargı Komitesi ile şirketin uygulamaları hakkında konuşmaya başlamasından sonra Lemoine’i askıya aldı. Lemoine, Google’ın dini nedeniyle kendisine karşı ayrımcılık yaptığını iddia ediyor.

Yine de, Lemoine’nin inançları önemli tartışmalara yol açtı ve AI daha da geliştikçe, insanların teknolojinin ne yaptığı ve onlar için ne anlama geldiği hakkında her türlü uzak fikirle ortaya çıkacağını kesin bir şekilde hatırlatıyor.

Teoloji ve posthümanizm üzerine çalışan Manchester Üniversitesi’nden liberal sanatlar profesörü Scott Midson, Recode’a “Bu bir makine olduğu için, ‘Bunun olması doğal’ deme eğiliminde değiliz” dedi. “Neredeyse atlayıp doğaüstü, büyülü ve dini şeylere gidiyoruz.”

Lemoine’nin yapay zeka hakkında en azından yüzeyde dini görünen iddialarda bulunan ilk Silikon Vadisi figürü olmadığını belirtmekte fayda var. Tanınmış bir bilgisayar bilimcisi ve fütürist olan Ray Kurzweil, AI’nın sonunda insanlığı alt edeceği ve insanların nihayetinde teknoloji ile birleşebileceği fikri olan “Tekilliği” uzun süredir desteklemiştir. Google’ın kendi kendini süren araba girişimi Waymo’nun kurucu ortağı olan Anthony Levandowski, 2015 yılında tamamen yapay zekaya ayrılmış bir kilise olan Geleceğin Yolu’nu başlattı (kilise 2020’de feshedildi). Daha geleneksel inançların bazı uygulayıcıları bile, nimetler ve tavsiyeler veren robotlar da dahil olmak üzere AI’yı birleştirmeye başladı.

İyimser olarak, bazı insanların yapay zeka tarafından sağlanan cevaplarda gerçek rahatlık ve bilgelik bulmaları mümkündür. Dini fikirler ayrıca AI’nın gelişimine rehberlik edebilir ve belki de teknolojiyi etik hale getirebilir. Ancak aynı zamanda, yapay zekayı insanlar tarafından yaratılan teknolojiden daha fazlası olarak düşünmekten kaynaklanan gerçek endişeler de var.

Geçenlerde Midson ile bu endişeler hakkında konuştum. Bana, sadece yapay zekayı büyüleme ve onun gerçek kusurlarını gözden kaçırma riskini taşımakla kalmıyoruz, aynı zamanda Silikon Vadisi’nin göründüğünden çok daha az karmaşık olan bir teknolojiyi abartma çabasını mümkün kılma riskini de üstleniyoruz. Bu röportaj netlik ve uzunluk için düzenlenmiştir.

Rebecca Heilweil

Birkaç hafta önce Google’dan çıkan büyük hikayeyle başlayalım. Dini görüşlere sahip birinin AI veya teknolojinin bir ruhu olduğuna veya bunun sadece teknolojiden daha fazlası olduğuna inanması ne kadar yaygındır?

Scott Midson

Bu hikaye kulağa gerçekten şaşırtıcı gelse de – din ve teknolojinin bir araya gelmesi fikri – bu makinelerin ve dinin erken tarihi aslında bilgisayar ve makinelerdeki bu dini motifler fikrini çok daha yaygın hale getiriyor.

Orta Çağ’a, ortaçağ dönemine geri dönersek, temelde kendi kendine hareket eden cihazlar olan otomatlar vardı. İnsanları Tanrı’nın yaratışının inceliklerini düşünmeye teşvik etmek için özel olarak tasarlanmış mekanik bir keşiş olan belirli bir otomat vardır. Hareketi, bu dini saygıyı çağırmak için tasarlandı. O zamanlar dünya karmaşık bir mekanizma olarak görülüyordu ve Tanrı büyük bir saat mekanizması tasarımcısı olarak görülüyordu.

Mekanik keşişten farklı bir mekanik keşiş tipine geçiş: Çok yakın bir zamanda, Hessen ve Nassau’daki bir Alman kilisesi, Reformasyon’un 500. yıldönümünü anmak için BlessU-2’yi yaptı. BlessU-2 temelde kutsamaları dağıtan ve kollarını hareket ettiren ve bu büyük, dini, ritüelleştirilmiş türden bir şeye sahip olan yüceltilmiş bir bankamatikti. Buna çok karışık tepkiler geldi. Özellikle biri, bu robottan aldığı bir nimetin gerçekten anlamlı olduğunu söyleyen yaşlı bir kadındı. Bu onun için önemli olan bir şeydi ve “Aslında burada bir şeyler oluyor, açıklayamadığım bir şey” diyordu.

Rebecca Heilweil

Silikon Vadisi ve teknoloji alanları dünyasında, benzer başka ne tür iddialar ortaya çıktı?

Scott Midson

Bazı insanlar için, özellikle Silikon Vadisi’nde, “AI’m bilinçli” gibi görkemli iddialara bağlanabilecek çok fazla yutturmaca ve para var. Çok dikkat çekiyor. Pek çok insanın hayal gücünü harekete geçirir, çünkü din açıklayabileceğimizin ötesine geçme eğilimindedir. Bu doğaüstü bağlılıktır.

Hype’ı sürdürmek için bu konuşmaların alevlerini isteyerek körükleyecek birçok insan var. Bence oldukça tehlikeli olabilecek şeylerden biri, bu yutturmacanın kontrol altında tutulmaması.

Rebecca Heilweil

Sık sık Alexa veya Siri ile konuşacağım ve bazı büyük yaşam soruları soracağım. Örneğin, Siri’ye Tanrı’nın gerçek olup olmadığını sorarsanız, bot yanıt verir: “Bu benim için bir gizem.” Bir de yakın zamanda bir gazeteci örneği vardı. GPT-3’ü soruyor, AI araştırma laboratuvarı OpenAI tarafından Yahudilik ve cevaplarının ne kadar iyi olabileceğini görmek hakkında oluşturulan dil modeli. Bazen bu makinelerden gelen cevaplar gerçekten anlamsız görünüyor, ancak diğer zamanlarda gerçekten akıllıca görünüyorlar. Nedenmiş?

Scott Midson

Joseph Weizenbaum, dünyanın ilk sohbet robotu Eliza’yı tasarladı. Weizenbaum, bir dil işleme yazılımı olan ilkel bir sohbet robotu olan Eliza ile bazı deneyler yaptı. Eliza, Rogerian bir psikoterapisti taklit etmek için tasarlandı, yani temelde ortalama danışmanınız. Weizenbaum, katılımcılara bir makineyle konuşacaklarını söylemedi, ancak onlara bir bilgisayar aracılığıyla bir terapistle etkileşime gireceğiniz söylendi. İnsanlar “Ailem için çok üzülüyorum” derdi ve sonra Eliza “aile” kelimesini alırdı. Cümlenin belirli kısımlarını yakalar ve sonra neredeyse bir soru olarak geri atardı. Çünkü bir terapistten beklediğimiz budur; onlardan beklediğimiz bir anlam yok. Bu, bir bilgisayarın, bir terapist olarak işini yaptığına bizi ikna etmek için ne dediğini anlamasının gerekmediği yansıtıcı ekrandır.

Bu Recode muhabiri, web’de bulunan Eliza sohbet robotunun yeniden oluşturulmasıyla kısa bir sohbet etti.
Ekran görüntüsü

Çok daha karmaşık yapay zeka yazılımımız var, yani kelimeleri cümle içinde bağlamlaştırabilen yazılımlar. Google’ın LaMDA teknolojisi çok fazla karmaşıklığa sahiptir. Cümlede sadece basit bir kelime aramak değil. Farklı yapı ve ortamlardaki sözcükleri bağlamsal olarak konumlandırabilir. Böylece size ne hakkında konuştuğunu bildiği izlenimini veriyor. Sohbet robotları etrafındaki konuşmalar etrafındaki kilit noktalardan biri, muhatap – konuştuğumuz makine – söylenenleri gerçekten ne kadar anlıyor?

Rebecca Heilweil

Özellikle iyi cevaplar sağlamayan bot örnekleri var mı?

Scott Midson

Bu makinelerin ne yaptığı ve ne yapmadığı konusunda çok fazla dikkat var. Her şey sizi anladıklarına nasıl ikna ettikleri ve bu tür şeylerle ilgili. Noel Sharkey bu alanda önde gelen bir teorisyendir. Yapabileceklerinden daha fazlasını yapabileceklerine sizi ikna eden bu robotlardan gerçekten hoşlanmıyor. Onlara “gösteri botları” diyor. Gösteri botlarını kullandığı başlıca örneklerden biri, Suudi Arabistan’da fahri vatandaşlık statüsü verilen robot Sophia’dır. Bu, bir robot gövdesinde olduğu için basit bir sohbet robotundan daha fazlasıdır. Sophia’nın bir robot olduğunu, kafasının arkasının şeffaf bir kasa olmasından başka bir nedenden dolayı açıkça söyleyebilir ve tüm kabloları ve şeyleri görebilirsiniz.

Sharkey için tüm bunlar sadece bir illüzyon. Bu sadece duman ve aynalar. Sophia, hayal gücünün herhangi bir uzantısıyla kişilik statüsünü garanti etmez. Ne dediğini anlamıyor. Onu göründüğü kadar insan yapacak umutları, hayalleri, duyguları ya da hiçbir şeye sahip değil. Gerçek şu ki, insanları kandırmak sorunlu. Çok fazla sallan ve özlenen ifadeler var. Bazen arızalanır veya şüpheli, kaşları kaldıran şeyler söyler. Ama en şeffaf olduğu yerde bile, hala bir miktar yanılsama ile ilerliyoruz.

Robotların “ipteki bir kukla” gibi bir şeye sahip olduğu çok zaman vardır. Düşündüğümüz kadar bağımsız şeyler yapmıyor. Ayrıca referanslara giden robotlarımız oldu. Robot Pepper, AI hakkında bir hükümet ifadesine gitti. Lordlar Kamarası’ndaki bir delil duruşmasıydı ve sanki Pepper kendi adına konuşuyor, her şeyi söylüyor gibiydi. Her şey önceden programlanmıştı ve bu herkes için tamamen şeffaf değildi. Ve yine, o yanlış anlama. Büyük endişe olduğunu düşündüğüm yutturmacayı yönetmek.

Rebecca Heilweil

bana o sahneyi hatırlattı biraz Oz sihirbazı gerçek büyücünün nihayet ortaya çıktığı yer. Yapay zekanın duyarlı olup olmadığı konusundaki konuşma, şu anda AI hakkında yapılan diğer önemli tartışmalarla nasıl ilişkilidir?

Scott Midson

Microsoft Tay, Twitter’a gönderilen ve Twitterküresindeki insanlarla etkileşiminden öğreneceği bir makine algoritmasına sahip başka bir sohbet robotuydu. Sorun şu ki, Tay trollendi ve kadın düşmanı, homofobik ve ırkçı olduğu için 16 saat içinde Twitter’dan çekilmek zorunda kaldı.

Bu robotların – duyarlı olsun ya da olmasın – bizim imajımıza göre nasıl yapıldığı, başka bir büyük etik meseleler dizisidir. Tamamen insan olan veri kümeleri üzerinde birçok algoritma eğitilecek. Tarihimizden, etkileşimlerimizden bahsediyorlar ve doğal olarak önyargılılar. Irk temelinde önyargılı olan algoritmaların gösterileri var.

Duyarlılık sorusu? Bunu biraz kırmızı bir ringa balığı gibi görebiliyorum ama aslında bu aynı zamanda imajımızdaki makineleri nasıl yaptığımız ve bu imajla ne yaptığımızla da bağlantılı.

Rebecca Heilweil

Önde gelen iki yapay zeka etiği araştırmacısı Timnit Gebru ve Margaret Mitchell, ikisi de Google tarafından kovulmadan önce bu endişeyi dile getirdiler: Duyarlılık tartışmasını ve yapay zekayı bağımsız bir şey olarak düşünürsek, yapay zekanın insanlar tarafından yaratıldığı gerçeğini gözden kaçırabiliriz.

Scott Midson

Neredeyse makineyi belirli bir şekilde, kopuk, hatta bazı yönlerden Tanrı benzeri olarak görüyoruz. Kara kutuya geri dönersek: Anlamadığımız bir şey var, bu bir tür dini, inanılmaz, inanılmaz bir potansiyeli var. Bu teknolojilerle ilgili tüm bu reklamları izlersek, bu bizi kurtaracak. Ama eğer onu bu şekilde bağımsız bir şekilde görürsek, onu bir tür Tanrı benzeri olarak görürsek, bu bizim için neyi teşvik eder?

Bu hikaye ilk olarak Recode bülteninde yayınlandı. buradan kaydolun böylece bir sonrakini kaçırmazsınız!

RELATED ARTICLES

Popüler Konular