ChatGPT, komut dosyası çocuklarının işlevsel kötü amaçlı yazılımlar yazmasını sağlıyor

AI sohbet robotu ChatGPT, Kasım ayındaki beta lansmanından bu yana şiir yazmak, teknik makaleler, romanlar ve makaleler yazmak, partiler planlamak ve yeni konular hakkında bilgi edinmek de dahil olmak üzere çok çeşitli görevler için kullanıldı. Artık kötü amaçlı yazılım geliştirmeyi ve diğer siber suç türlerinin takibini listeye ekleyebiliriz.

Güvenlik şirketi Check Point Research’teki araştırmacılar Cuma günü, ChatGPT’nin canlı yayına başlamasından sonraki birkaç hafta içinde, siber suç forumlarındaki katılımcıların -bazılarının çok az kodlama deneyimi olan veya hiç olmayan- onu casusluk, fidye yazılımı ve kötü amaçlı yazılımlar için kullanılabilecek yazılımlar ve e-postalar yazmak için kullandığını bildirdi. spam ve diğer kötü amaçlı görevler.

Şirket araştırmacıları, “ChatGPT özelliklerinin Dark Web’deki katılımcılar için yeni favori araç haline gelip gelmeyeceğine karar vermek için henüz çok erken” diye yazdı. “Ancak, siber suçlu topluluğu şimdiden önemli bir ilgi gösterdi ve kötü amaçlı kod üretmek için bu son trende atlıyor.”

Geçen ay bir forum katılımcısı, yazdıkları ilk komut dosyası olduğunu iddia ettikleri şeyi yayınladı ve yapay zeka sohbet robotunun “hoş bir ortam” sağladığını belirtti. [helping] senaryoyu güzel bir kapsamla bitirmek için el ele.”

Python kodu, kod imzalama, şifreleme ve şifre çözme dahil olmak üzere çeşitli şifreleme işlevlerini birleştirdi. Komut dosyasının bir kısmı, dosyaları imzalamak için eliptik eğri kriptografisi ve ed25519 eğrisi kullanılarak bir anahtar oluşturdu. Başka bir bölüm, sistem dosyalarını Blowfish ve Twofish algoritmalarını kullanarak şifrelemek için sabit kodlanmış bir parola kullandı. Üçüncüsü, çeşitli dosyaları karşılaştırmak için RSA anahtarlarını ve dijital imzaları, mesaj imzalamayı ve blake2 hash işlevini kullandı.

Sonuç, (1) tek bir dosyanın şifresini çözmek ve dosyanın sonuna bir mesaj kimlik doğrulama kodu (MAC) eklemek ve (2) sabit kodlanmış bir yolu şifrelemek ve aldığı bir dosya listesinin şifresini çözmek için kullanılabilecek bir komut dosyasıydı. tartışma. Sınırlı teknik beceriye sahip biri için fena değil.

Araştırmacılar, “Yukarıda belirtilen kodun tümü elbette iyi niyetli bir şekilde kullanılabilir” diye yazdı. “Ancak, bu komut dosyası, herhangi bir kullanıcı etkileşimi olmadan birinin makinesini tamamen şifrelemek için kolayca değiştirilebilir. Örneğin, komut dosyası ve sözdizimi sorunları giderilirse, potansiyel olarak kodu fidye yazılımına dönüştürebilir.”

Başka bir durumda, daha teknik geçmişe sahip bir forum katılımcısı, her ikisi de ChatGPT kullanılarak yazılmış iki kod örneği yayınladı. İlki, istismar sonrası bilgi çalmak için bir Python betiğiydi. PDF’ler gibi belirli dosya türlerini aradı, bunları geçici bir dizine kopyaladı, sıkıştırdı ve saldırganların kontrolündeki bir sunucuya gönderdi.

Kişi, Java ile yazılmış ikinci bir kod parçası yayınladı. SSH ve telnet istemcisi PuTTY’yi gizlice indirdi ve Powershell kullanarak çalıştırdı. “Genel olarak, bu kişi teknoloji odaklı bir tehdit aktörü gibi görünüyor ve gönderilerinin amacı, teknik olarak daha az yetenekli siber suçlulara ChatGPT’yi kötü amaçlar için nasıl kullanacaklarını, anında kullanabilecekleri gerçek örneklerle göstermek.”

ChatGPT tarafından üretilen suç yazılımlarının bir başka örneği de güvenliği ihlal edilmiş hesaplar, ödeme kartı verileri, kötü amaçlı yazılım ve diğer yasa dışı mal veya hizmetler için kimlik bilgilerinin satın alınması veya ticaretinin yapılması için otomatik bir çevrimiçi pazar oluşturmak üzere tasarlanmıştır. Kod, monero, bitcoin ve etherium dahil olmak üzere mevcut kripto para birimi fiyatlarını almak için üçüncü taraf bir programlama arabirimi kullandı. Bu, kullanıcının satın alma işlemlerini gerçekleştirirken fiyatları belirlemesine yardımcı oldu.

Cuma günkü gönderi, Check Point araştırmacılarının yapay zeka tarafından üretilen ve tam bulaşma akışı olan kötü amaçlı yazılım geliştirmeyi denemesinden iki ay sonra geldi. Tek bir kod satırı yazmadan, oldukça ikna edici bir kimlik avı e-postası oluşturdular:

Araştırmacılar, e-postaya ekli bir Excel dosyasında gizlenebilecek kötü amaçlı bir makro geliştirmek için ChatGPT’yi kullandı. Bir kez daha, tek bir kod satırı yazmadılar. İlk başta, çıktısı alınan komut dosyası oldukça ilkeldi:

Ancak araştırmacılar, ChatGPT’ye kodu birkaç kez daha yineleme talimatı verdiğinde, kodun kalitesi büyük ölçüde arttı:

Araştırmacılar daha sonra, ters kabuk ve bağlantı noktası taraması, sanal alan algılama ve Python kodlarını bir Windows yürütülebilir dosyasına derlemek için komut dosyaları da dahil olmak üzere diğer kötü amaçlı yazılım türlerini geliştirmek için Codex adlı daha gelişmiş bir yapay zeka hizmeti kullandılar.

Araştırmacılar, “Ve aynen böyle, enfeksiyon akışı tamamlandı” diye yazdı. “Hedef makineye bir ters kabuk indiren kötü amaçlı VBA kodu içeren bir Excel belgesi eklenmiş bir kimlik avı e-postası oluşturduk. Zor iş yapay zekalar tarafından yapıldı ve bize kalan tek şey saldırıyı gerçekleştirmek.”

ChatGPT koşulları yasa dışı veya kötü niyetli amaçlarla kullanılmasını yasaklasa da, araştırmacılar bu kısıtlamaları aşmak için isteklerini değiştirmekte hiçbir sorun yaşamadılar. Ve tabii ki ChatGPT, savunucular tarafından dosyaların içindeki kötü amaçlı URL’leri arayan kod yazmak veya belirli bir kriptografik hash için algılama sayısı için VirusTotal’u sorgulamak için de kullanılabilir.

Yapay zekanın cesur yeni dünyasına hoş geldiniz. Saldırgan bilgisayar korsanlığı ve savunma düzeltmesinin geleceğini nasıl şekillendireceğini kesin olarak bilmek için henüz çok erken, ancak savunucular ve tehdit aktörleri arasındaki silahlanma yarışını yalnızca yoğunlaştıracağına dair adil bir bahis.