Cumartesi, Haziran 22, 2024
Ana SayfaTeknoloji HaberleriAI dedektörleri neden ABD Anayasasının AI tarafından yazıldığını düşünüyor?

AI dedektörleri neden ABD Anayasasının AI tarafından yazıldığını düşünüyor?

Yapay zeka kullanarak ABD Anayasasını yazan James Madison'ın yapay zeka tarafından oluşturulmuş bir görüntüsü.
Büyüt / Yapay zeka kullanarak ABD Anayasasını yazan James Madison’ın yapay zeka tarafından oluşturulmuş bir görüntüsü.

Yolculuk Ortası / Benj Edwards

Amerika’nın en önemli yasal belgesi olan ABD Anayasası’nı ChatGPT gibi yapay zeka modelleri tarafından yazılan metinleri algılamak için tasarlanmış bir araca aktarırsanız, belgenin neredeyse kesinlikle yapay zeka tarafından yazıldığını söyleyecektir. Ama James Madison bir zaman yolcusu değilse, durum böyle olamaz. AI yazma algılama araçları neden yanlış pozitifler veriyor? Öğrenmek için birkaç uzmanla ve AI yazma dedektörü GPTZero’nun yaratıcısıyla konuştuk.

Aşırı hevesli profesörlerin yapay zeka yazma aracı kullandığı şüphesiyle tüm sınıfta başarısız olduğu ve çocukların ChatGPT kullanmakla haksız yere suçlandığı haberleri arasında, üretken yapay zekanın eğitimi telaş içinde. Bazıları varoluşsal bir krizi temsil ettiğini düşünüyor. Geçen yüzyılda geliştirilen eğitim yöntemlerine güvenen öğretmenler, öğrencilerin bir konudaki ustalığını ölçmek için bir araç olarak denemeye güvenme geleneği olan statükoyu korumanın yollarını arıyorlar.

Yapay zeka tarafından oluşturulan yazıyı algılamak için yapay zeka araçlarına güvenmek ne kadar cazip olsa da, şimdiye kadar elde edilen kanıtlar bunların güvenilir olmadığını göstermiştir. Yanlış pozitifler nedeniyle, GPTZero, ZeroGPT ve OpenAI’nin Metin Sınıflandırıcısı gibi yapay zeka yazma algılayıcılarına, ChatGPT gibi büyük dil modellerinden (LLM’ler) oluşan metinleri algılama konusunda güvenilemez.

GPTZero’ya ABD Anayasasının bir bölümünü beslerseniz, metnin “tamamen AI tarafından yazılması muhtemel” olduğunu söylüyor. Son altı ayda birkaç kez, benzer sonuçlar gösteren diğer AI dedektörlerinin ekran görüntüleri viral oldu sosyal medyada, ilham verici kafa karışıklığı ve kurucu babaların robot olduğuna dair pek çok şaka. Aynı şeyin, yine yapay zeka tarafından üretildiği ortaya çıkan İncil’den seçimlerde de olduğu ortaya çıktı.

Bu araçların neden bu kadar bariz hatalar yaptığını (ve bunun dışında genellikle yanlış pozitifler döndürdüğünü) açıklamak için önce nasıl çalıştıklarını anlamamız gerekir.

AI algılamanın arkasındaki kavramları anlama

Farklı AI yazma dedektörleri, biraz farklı algılama yöntemleri kullanır, ancak benzer bir öncül ile: Büyük bir metin gövdesi (milyonlarca yazma örneğinden oluşan) üzerinde eğitilmiş bir AI modeli ve yazının doğru olup olmadığını belirleyen bir dizi tahmin edilen kural vardır. insan veya yapay zeka tarafından üretilmiş olma olasılığı daha yüksektir.

Örneğin, GPTZero’nun kalbinde, hizmetin SSS’sine göre “İngilizce düz yazıya odaklanan, insan tarafından yazılmış ve yapay zeka tarafından oluşturulmuş geniş, çeşitli bir metin külliyatı” üzerinde eğitilmiş bir sinir ağı var. Daha sonra, sistem metni değerlendirmek ve sınıflandırmasını yapmak için “şaşkınlık” ve patlama” gibi özellikleri kullanır.

Bonnie Jacobs / Getty Images

Makine öğreniminde şaşkınlık, bir metin parçasının bir AI modelinin eğitimi sırasında öğrendiklerinden ne kadar saptığının bir ölçümüdür. AI şirketi Hugging Face’den Dr. Margaret Mitchell’in Ars’a söylediği gibi, “Şaşkınlık, ‘gördüklerime dayanarak bu dilin ne kadar şaşırtıcı olduğu’nun bir işlevidir.”

Dolayısıyla, şaşkınlığı ölçmenin ardındaki düşünce, ChatGPT gibi yapay zeka modellerinin metin yazarken doğal olarak en iyi bildikleri şeye, yani eğitim verilerinden gelene ulaşacaklarıdır. Çıktı, eğitim verilerine ne kadar yakınsa, şaşkınlık derecesi o kadar düşük olur. İnsanlar çok daha kaotik yazarlar – ya da en azından teori bu – ama insanlar da, özellikle hukukta kullanılan resmi bir stili veya belirli akademik yazı türlerini taklit ederken, çok az şaşkınlıkla yazabilirler. Ayrıca, kullandığımız ifadelerin çoğu şaşırtıcı derecede yaygındır.

Diyelim ki “Bir fincan _____ istiyorum” ifadesindeki bir sonraki kelimeyi tahmin ediyoruz. Çoğu insan boşluğu “su”, “kahve” veya “çay” ile doldurur. Çok sayıda İngilizce metinle eğitilmiş bir dil modeli de aynı şeyi yapar çünkü bu ifadeler İngilizce yazıda sıklıkla geçer. Tahmin oldukça kesin olduğundan, bu üç sonuçtan herhangi birinin kafa karışıklığı oldukça düşük olacaktır.

RELATED ARTICLES

Popüler Konular