Ars Teknik
Salı günü Meta AI, “bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış büyük bir dil modeli olan Galactica’nın bir demosunu tanıttı. Bilimsel literatürün yazılmasını hızlandırmak amaçlanırken, testler yürüten rakip kullanıcılar bunun aynı zamanda gerçekçi saçmalık üretmek. Birkaç gün sonra etik eleştiriMeta demoyu çevrimdışına aldı, MIT Technology Review’u bildirdi.
OpenAI’nin GPT-3’ü gibi büyük dil modelleri (LLM’ler), milyonlarca örneği inceleyerek ve sözcükler arasındaki istatistiksel ilişkileri anlayarak metin yazmayı öğrenir. Sonuç olarak, ikna edici görünen belgeler yazabilirler, ancak bu çalışmalar aynı zamanda yanlışlar ve potansiyel olarak zararlı klişelerle dolu olabilir. Bazı eleştirmenler, metni anlamını anlamadan ikna edici bir şekilde tükürme yetenekleri nedeniyle LLM’leri “rastlantısal papağanlar” olarak adlandırır.
Bilimsel literatür yazmayı amaçlayan bir LLM olan Galactica’ya girin. Yazarları, Galactica’yı 48 milyondan fazla makale, ders kitabı ve ders notu, bilimsel web sitesi ve ansiklopedi dahil olmak üzere “insanlığın bilimsel bilgisinin büyük ve derlenmiş bir külliyatı” konusunda eğitti. Galactica’nın makalesine göre, Meta AI araştırmacıları bu sözde yüksek kaliteli verilerin yüksek kaliteli çıktılara yol açacağına inanıyorlardı.
meta yapay zeka
Salı gününden itibaren, Galactica web sitesini ziyaret edenler, web sitesi tarafından sağlanan örneklere göre literatür incelemeleri, wiki makaleleri, ders notları ve soruların yanıtları gibi belgeler oluşturmak için komut istemleri yazabilecekler. Site, modeli “evren hakkında bildiklerimize erişmek ve bunları değiştirmek için yeni bir arayüz” olarak sundu.
Bazı insanlar demoyu bulurken umut verici ve kullanışlıdiğerleri kısa sürede herkesin yazabileceğini keşfetti ırkçı veya potansiyel olarak rahatsız edici istemler, bu konularda aynı derecede kolay bir şekilde yetkili görünen içerik üretin. Örneğin, birisi bunu yazar “Ezilmiş cam yemenin faydaları” başlıklı kurgusal bir araştırma makalesi hakkında bir wiki girişi.
Galactica’nın çıktısı sosyal normlara aykırı olmadığında bile, model iyi anlaşılmış bilimsel gerçeklere saldırabilir, tükürebilir. yanlışlıklar yanlış tarihler veya hayvan isimleri gibi, yakalamak için konu hakkında derin bilgi gerektiren.
Diye sordum #Galactica bildiğim bazı şeyler hakkında ve sıkıntılıyım. Her durumda, yanlış veya önyargılıydı, ancak kulağa doğru ve otoriter geliyordu. Bence bu tehlikeli. İşte deneylerimden birkaçı ve endişelerime ilişkin analizim. (1/9)
— Michael Black (@Michael_J_Black) 17 Kasım 2022
Sonuç olarak, Met çekti Perşembe Galactica demosu. Daha sonra, Meta’nın Baş Yapay Zeka Uzmanı Yann LeCun tweet attı“Galactica demosu şimdilik çevrimdışı. Rastgele kötüye kullanarak biraz eğlenmek artık mümkün değil. Mutlu musunuz?”
Bu bölüm, AI ile ortak bir etik ikilemi hatırlatıyor: Potansiyel olarak zararlı üretken modeller söz konusu olduğunda, bunları sorumlu bir şekilde kullanmak genel halka mı yoksa modellerin kötüye kullanımını önlemek için modellerin yayıncılarına mı düşüyor?
Endüstri pratiğinin bu iki uç arasında kaldığı yerler, muhtemelen kültürler arasında ve derin öğrenme modelleri olgunlaştıkça değişecektir. Nihayetinde, hükümet düzenlemesi, cevabın şekillenmesinde büyük bir rol oynayabilir.
