Pazartesi, Haziran 24, 2024
Ana SayfaTeknoloji HaberleriBeyaz Saray, bilgisayar korsanlarını DEF CON 31'de en iyi AI modellerini kırmaya...

Beyaz Saray, bilgisayar korsanlarını DEF CON 31’de en iyi AI modellerini kırmaya davet ediyor

Sibernetik bir arka planın önünde Beyaz Saray'ın yapay zeka tarafından oluşturulmuş bir görüntüsü.
Büyüt / Sibernetik bir arka planın önünde Beyaz Saray’ın yapay zeka tarafından oluşturulmuş bir görüntüsü.

yolculuk ortası

Perşembe günü Beyaz Saray, OpenAI, Google, Anthropic, Hugging Face, Microsoft, Nvidia ve Stability AI dahil olmak üzere en iyi AI geliştiricileri arasında DEF CON 31’de üretken AI sistemlerinin halka açık bir değerlendirmesine katılmak için şaşırtıcı bir işbirliğini duyurdu. Ağustos ayında Las Vegas’ta gerçekleşen hacker kongresi. Etkinliğe, AI bilgisayar korsanlarından oluşan bir topluluk olan AI Village ev sahipliği yapacak.

Geçen yıldan bu yana, ChatGPT gibi büyük dil modelleri (LLM’ler) yazma ve iletişim görevlerini hızlandırmanın popüler bir yolu haline geldi, ancak yetkililer bunların da doğal riskler taşıdığının farkında. Konfabulasyonlar, jailbreak’ler ve önyargılar gibi sorunlar, güvenlik uzmanları ve halk için zorluklar oluşturuyor. Bu nedenle Beyaz Saray Bilim, Teknoloji ve Politika Ofisi, bu yeni üretken yapay zeka modellerinin sınırlarını zorlamayı onaylıyor.

Beyaz Saray’dan yapılan açıklamada, “Bu bağımsız uygulama, araştırmacılara ve halka bu modellerin etkileri hakkında kritik bilgiler sağlayacak ve AI şirketlerinin ve geliştiricilerin bu modellerde bulunan sorunları düzeltmek için adımlar atmalarını sağlayacak” dedi. Biden yönetiminin AI Haklar Bildirgesi ve Ulusal Standartlar ve Teknoloji Enstitüsü’nün AI Risk Yönetimi Çerçevesi ile uyumludur.

AI Village tarafından yazılan paralel bir duyuruda, organizatörler Sven Cattell, Rumman Chowdhury ve Austin Carson, yaklaşan etkinliği “herhangi bir AI modeli grubu için şimdiye kadarki en büyük kırmızı takım çalışması” olarak adlandırıyor. Scale AI tarafından geliştirilen bir değerlendirme platformunun kullanılacağı halka açık AI modeli değerlendirmesine binlerce kişi katılacak.

“Red-teaming”, güvenlik uzmanlarının genel güvenliği ve esnekliği iyileştirmek için bir kuruluşun sistemlerindeki güvenlik açıklarını veya kusurları bulmaya çalıştıkları bir süreçtir.

AI Village’ın kurucusu Cattell’e göre, “Bu modellerle ilgili çeşitli sorunlar, daha fazla insan nasıl kırmızı takım yapılacağını öğrenene ve onları değerlendirene kadar çözülmeyecek.” AI Village ve DEF CON, herhangi bir AI modeli grubu için en büyük red-teaming egzersizini yürüterek, AI sistemlerindeki güvenlik açıklarını ele alacak donanıma sahip araştırmacılar topluluğunu büyütmeyi hedefliyor.

LLM’lerin kilitlenmesinin kısmen, Eylül ayında hakkında bir haber yayınladığımız “hızlı enjeksiyon” adı verilen bir teknik nedeniyle şaşırtıcı derecede zor olduğu kanıtlandı. Yapay zeka araştırmacısı Simon Willison, bir dil modelini yaratıcısı tarafından amaçlanmayan eylemleri gerçekleştirmeye doğru raydan çıkarabilecek bir teknik olan hızlı enjeksiyonun tehlikeleri hakkında ayrıntılı olarak yazdı.

DEF CON etkinliği sırasında katılımcılar, organizatörler tarafından sağlanan dizüstü bilgisayarlar aracılığıyla birden çok LLM’ye zamanlı erişime sahip olacak. Bayrağı yakala tarzı bir puan sistemi, çok çeşitli potansiyel zararların test edilmesini teşvik edecektir. Sonunda, en çok puana sahip olan kişi üst düzey bir Nvidia GPU kazanacak.

AI Village, “Aynı şeyi denemek isteyenlere yardımcı olmak için bu etkinlikten öğrendiklerimizi yayınlayacağız” diye yazıyor. “Bu modellerle ve sınırlamalarıyla en iyi şekilde nasıl çalışılacağını bilen ne kadar çok insan olursa o kadar iyi.”

DEF CON 31, 10–13 Ağustos 2023 tarihlerinde Las Vegas’taki Caesar’s Forum’da gerçekleşecek.

RELATED ARTICLES

Popüler Konular