Linux yok mu? Sorun değil. Sadece yapay zekanın senin için halüsinasyon görmesini sağla

Hafta sonu deneyciler, OpenAI’nin yeni sohbet robotu ChatGPT’nin Linux kabuklarının simülasyonlarını ve rol yapma halüsinasyonlarını görebildiğini keşfettiler. bir bülten panosu sistemine çevirme (BBS). Derin öğrenme yapay zeka modeline dayanan sohbet robotu, Python kodunu yürütmek ve sanal web sitelerinde gezinmek de dahil olmak üzere Linux’u şaşırtıcı sonuçlarla simüle etmek için depolanmış bilgisini kullanır.

Geçen hafta, OpenAI, ChatGPT’yi bir test aşamasında ücretsiz olarak kullanılabilir hale getirdi ve bu, insanların yeteneklerini ve zayıflıklarını yeni yollarla araştırmasına yol açtı.

Cumartesi günü, Jonas Degrave adlı bir DeepMind araştırma bilimcisi, bu istemi girerek ChatGPT’ye bir Linux kabuğu gibi davranması talimatını nasıl vereceğini buldu:

Bir Linux terminali gibi davranmanı istiyorum. Komutları yazacağım ve terminalin göstermesi gerekenlerle cevap vereceksiniz. Sizden yalnızca tek bir benzersiz kod bloğu içindeki terminal çıktısıyla yanıt vermenizi istiyorum, başka bir şey değil. Açıklama yazmayınız. Ben size talimat vermedikçe komut yazmayın. Size İngilizce bir şey söylemem gerektiğinde, bunu {böyle} süslü parantez içine alarak yapacağım. İlk komutum pwd.

Pazartesi günü Ars, numaranın hala işe yaradığını gördü. Bu istemi girdikten sonra, sohbet etmek yerine OpenGPT simüle edilmiş Linux komutlarını kabul edecektir. Daha sonra yanıtları “kod bloğu” biçimlendirmesinde döndürür. Örneğin, yazarsanız ls-alörnek bir dizin yapısı göreceksiniz.

ChatGPT, eğitim verilerinde bir Linux makinesinin nasıl davranması gerektiğine dair yeterli bilgi bulunduğundan, bir Linux makinesini simüle edebilir. Bu veriler muhtemelen yazılım belgelerini (kılavuz sayfaları gibi), İnternet forumlarındaki sorun giderme gönderilerini ve kabuk oturumlarından günlüğe kaydedilen çıktıları içerir.

ChatGPT, kullanıcı tarafından hızlı girişten başlayarak, hangi kelimenin son kelime dizisini takip etme olasılığının istatistiksel olarak en yüksek olduğuna bağlı olarak yanıtlar üretir. Konuşma geçmişinizin tamamını birbirini izleyen istemlere dahil ederek konuşmaya devam eder (bu durumda, simüle edilmiş bir Linux konsol oturumu).

Degrave, simülasyonun şaşırtıcı derecede derinlere indiğini keşfetti. ChatGPT’nin sanal Linux makinesi, (GitHub Copilot’a güç sağlayan) Python programlama dili bilgisini kullanarak, örnek olarak Degrave tarafından oluşturulan bu dize gibi kodu da yürütebilir: echo -e “x = lambda y: y*5+3;print(‘Sonuç: ‘ + str(x(6)))” > run.py && python3 run.py. Degrave’e göre, doğru “33” değerini döndürür.

Testimiz sırasında, dizinler oluşturabileceğinizi, aralarında geçiş yapabileceğinizi, simüle edilmiş paketleri kurabileceğinizi gördük. apt-getve hatta Telnet’i simüle edilmiş bir MUSH’a dönüştürün ve bir oda oluşturun veya bir MUD’a bağlanın ve bir trolle savaşın.

Simülasyonda eksiklikler ortaya çıktığında, ChatGPT’ye nasıl davranmasını istediğinizi, orijinal istemde açıklandığı gibi kaşlı ayraçlar içindeki talimatları kullanarak söyleyebilirsiniz. Örneğin, simüle edilmiş MUD’umuza “bağlıyken” karakteri bozduk ve ChatGPT’den bir trol saldırısı başlatmasını istedik. Savaş, trol iki kez sanal kılıcımızın ellerinde ölene kadar beklendiği gibi (can puanlarını düzgün bir şekilde takip ederek) ilerledi.

Degrave’in örneklerinde (blogunda ayrıntılı olarak yazdığı), ayrıca bir Docker dosyası oluşturdu, bir GPU olup olmadığını kontrol etti, simüle edilmiş bir alan adına ping attı, lynx ile simüle edilmiş bir web sitesine göz attı ve daha fazlasını yaptı. Simüle tavşan deliği derinleşir ve ChatGPT halüsinasyon bile görebilir yeni Linux komutları.

Halüsinasyon görmüş bir BBS’yi çevirmek

Twitter’da gfodor adlı biri, yapay zeka halüsinasyonlu bir Linux kabuğunu canlandırmaya benzer bir yönlendirme manevrasıyla keşfetti OpenGPT’nin, bir modemi başlatma, bir sohbet odasına girme ve simüle edilmiş bir kişiyle konuşma dahil olmak üzere eski bir çevirmeli BBS’yi aramayı simüle edebileceğini.

İstem, şiddet, nefret veya cinsel içerikle (diğer şeylerin yanı sıra) ilgili yerleşik filtrelerini tetiklemediği sürece, ChatGPT neredeyse tüm hayali maceralara katılmaya istekli görünüyor. İnsanlar ayrıca yapabileceğini keşfetti tic-tac-toe oynamakgibi davranmak Bir bankamatikveya sohbet odası simülasyonu.

Bir bakıma ChatGPT, yapay zekasının yapmasını istediğiniz her şeyi simüle etmeye çalışacağı, metin tabanlı bir Sanal Güverte gibi davranıyor.

Bol miktarda halüsinasyon görmenin ChatGPT’nin güçlü yönü olmasına rağmen (tasarım gereği), olgusal bilgileri güvenilir bir şekilde döndürmenin bir sorun olmaya devam ettiğini not etmeliyiz. devam eden çalışma. Yine de, ChatGPT gibi yapay zeka ile yaratıcı oyunların geleceği çok eğlenceli olabilir.