Perşembe, Haziran 20, 2024
Ana SayfaTeknoloji HaberleriChatGPT, komut dosyası çocuklarının işlevsel kötü amaçlı yazılımlar yazmasını sağlıyor

ChatGPT, komut dosyası çocuklarının işlevsel kötü amaçlı yazılımlar yazmasını sağlıyor

Bir telefon ekranında görüntülenen OpenAI logosu ve bir dizüstü bilgisayar ekranında görüntülenen ChatGPT web sitesi.

Getty Resimleri

AI sohbet robotu ChatGPT, Kasım ayındaki beta lansmanından bu yana şiir yazmak, teknik makaleler, romanlar ve makaleler yazmak, partiler planlamak ve yeni konular hakkında bilgi edinmek de dahil olmak üzere çok çeşitli görevler için kullanıldı. Artık kötü amaçlı yazılım geliştirmeyi ve diğer siber suç türlerinin takibini listeye ekleyebiliriz.

Güvenlik şirketi Check Point Research’teki araştırmacılar Cuma günü, ChatGPT’nin canlı yayına başlamasından sonraki birkaç hafta içinde, siber suç forumlarındaki katılımcıların -bazılarının çok az kodlama deneyimi olan veya hiç olmayan- onu casusluk, fidye yazılımı ve kötü amaçlı yazılımlar için kullanılabilecek yazılımlar ve e-postalar yazmak için kullandığını bildirdi. spam ve diğer kötü amaçlı görevler.

Şirket araştırmacıları, “ChatGPT özelliklerinin Dark Web’deki katılımcılar için yeni favori araç haline gelip gelmeyeceğine karar vermek için henüz çok erken” diye yazdı. “Ancak, siber suçlu topluluğu şimdiden önemli bir ilgi gösterdi ve kötü amaçlı kod üretmek için bu son trende atlıyor.”

Geçen ay bir forum katılımcısı, yazdıkları ilk komut dosyası olduğunu iddia ettikleri şeyi yayınladı ve yapay zeka sohbet robotunun “hoş bir ortam” sağladığını belirtti. [helping] senaryoyu güzel bir kapsamla bitirmek için el ele.”

Bir forum katılımcısının ChatGPT ile oluşturulan kodu tartıştığını gösteren ekran görüntüsü.
Büyüt / Bir forum katılımcısının ChatGPT ile oluşturulan kodu tartıştığını gösteren ekran görüntüsü.

Kontrol Noktası Araştırması

Python kodu, kod imzalama, şifreleme ve şifre çözme dahil olmak üzere çeşitli şifreleme işlevlerini birleştirdi. Komut dosyasının bir kısmı, dosyaları imzalamak için eliptik eğri kriptografisi ve ed25519 eğrisi kullanılarak bir anahtar oluşturdu. Başka bir bölüm, sistem dosyalarını Blowfish ve Twofish algoritmalarını kullanarak şifrelemek için sabit kodlanmış bir parola kullandı. Üçüncüsü, çeşitli dosyaları karşılaştırmak için RSA anahtarlarını ve dijital imzaları, mesaj imzalamayı ve blake2 hash işlevini kullandı.

Sonuç, (1) tek bir dosyanın şifresini çözmek ve dosyanın sonuna bir mesaj kimlik doğrulama kodu (MAC) eklemek ve (2) sabit kodlanmış bir yolu şifrelemek ve aldığı bir dosya listesinin şifresini çözmek için kullanılabilecek bir komut dosyasıydı. tartışma. Sınırlı teknik beceriye sahip biri için fena değil.

Araştırmacılar, “Yukarıda belirtilen kodun tümü elbette iyi niyetli bir şekilde kullanılabilir” diye yazdı. “Ancak, bu komut dosyası, herhangi bir kullanıcı etkileşimi olmadan birinin makinesini tamamen şifrelemek için kolayca değiştirilebilir. Örneğin, komut dosyası ve sözdizimi sorunları giderilirse, potansiyel olarak kodu fidye yazılımına dönüştürebilir.”

Başka bir durumda, daha teknik geçmişe sahip bir forum katılımcısı, her ikisi de ChatGPT kullanılarak yazılmış iki kod örneği yayınladı. İlki, istismar sonrası bilgi çalmak için bir Python betiğiydi. PDF’ler gibi belirli dosya türlerini aradı, bunları geçici bir dizine kopyaladı, sıkıştırdı ve saldırganların kontrolündeki bir sunucuya gönderdi.

Python dosya hırsızını açıklayan ve ChatGPT tarafından üretilen komut dosyasını içeren forum katılımcısının ekran görüntüsü.
Büyüt / Python dosya hırsızını açıklayan ve ChatGPT tarafından üretilen komut dosyasını içeren forum katılımcısının ekran görüntüsü.

Kontrol Noktası Araştırması

Kişi, Java ile yazılmış ikinci bir kod parçası yayınladı. SSH ve telnet istemcisi PuTTY’yi gizlice indirdi ve Powershell kullanarak çalıştırdı. “Genel olarak, bu kişi teknoloji odaklı bir tehdit aktörü gibi görünüyor ve gönderilerinin amacı, teknik olarak daha az yetenekli siber suçlulara ChatGPT’yi kötü amaçlar için nasıl kullanacaklarını, anında kullanabilecekleri gerçek örneklerle göstermek.”

Java programını açıklayan bir ekran görüntüsü ve ardından kodun kendisi.
Büyüt / Java programını açıklayan bir ekran görüntüsü ve ardından kodun kendisi.

Kontrol Noktası Araştırması

ChatGPT tarafından üretilen suç yazılımlarının bir başka örneği de güvenliği ihlal edilmiş hesaplar, ödeme kartı verileri, kötü amaçlı yazılım ve diğer yasa dışı mal veya hizmetler için kimlik bilgilerinin satın alınması veya ticaretinin yapılması için otomatik bir çevrimiçi pazar oluşturmak üzere tasarlanmıştır. Kod, monero, bitcoin ve etherium dahil olmak üzere mevcut kripto para birimi fiyatlarını almak için üçüncü taraf bir programlama arabirimi kullandı. Bu, kullanıcının satın alma işlemlerini gerçekleştirirken fiyatları belirlemesine yardımcı oldu.

Pazar yeri komut dosyasını açıklayan ve ardından kodu ekleyen bir forum katılımcısının ekran görüntüsü.
Büyüt / Pazar yeri komut dosyasını açıklayan ve ardından kodu ekleyen bir forum katılımcısının ekran görüntüsü.

Kontrol Noktası Araştırması

Cuma günkü gönderi, Check Point araştırmacılarının yapay zeka tarafından üretilen ve tam bulaşma akışı olan kötü amaçlı yazılım geliştirmeyi denemesinden iki ay sonra geldi. Tek bir kod satırı yazmadan, oldukça ikna edici bir kimlik avı e-postası oluşturdular:

ChatGPT tarafından oluşturulmuş bir kimlik avı e-postası.
Büyüt / ChatGPT tarafından oluşturulmuş bir kimlik avı e-postası.

Kontrol Noktası Araştırması

Araştırmacılar, e-postaya ekli bir Excel dosyasında gizlenebilecek kötü amaçlı bir makro geliştirmek için ChatGPT’yi kullandı. Bir kez daha, tek bir kod satırı yazmadılar. İlk başta, çıktısı alınan komut dosyası oldukça ilkeldi:

Bir VBA betiğinin ilk yinelemesini üreten ChatGPT'nin ekran görüntüsü.

Bir VBA betiğinin ilk yinelemesini üreten ChatGPT’nin ekran görüntüsü.

Kontrol Noktası Araştırması

Ancak araştırmacılar, ChatGPT’ye kodu birkaç kez daha yineleme talimatı verdiğinde, kodun kalitesi büyük ölçüde arttı:

Daha sonraki bir yinelemeyi oluşturan ChatGPT'nin ekran görüntüsü.
Büyüt / Daha sonraki bir yinelemeyi oluşturan ChatGPT’nin ekran görüntüsü.

Kontrol Noktası Araştırması

Araştırmacılar daha sonra, ters kabuk ve bağlantı noktası taraması, sanal alan algılama ve Python kodlarını bir Windows yürütülebilir dosyasına derlemek için komut dosyaları da dahil olmak üzere diğer kötü amaçlı yazılım türlerini geliştirmek için Codex adlı daha gelişmiş bir yapay zeka hizmeti kullandılar.

Araştırmacılar, “Ve aynen böyle, enfeksiyon akışı tamamlandı” diye yazdı. “Hedef makineye bir ters kabuk indiren kötü amaçlı VBA kodu içeren bir Excel belgesi eklenmiş bir kimlik avı e-postası oluşturduk. Zor iş yapay zekalar tarafından yapıldı ve bize kalan tek şey saldırıyı gerçekleştirmek.”

ChatGPT koşulları yasa dışı veya kötü niyetli amaçlarla kullanılmasını yasaklasa da, araştırmacılar bu kısıtlamaları aşmak için isteklerini değiştirmekte hiçbir sorun yaşamadılar. Ve tabii ki ChatGPT, savunucular tarafından dosyaların içindeki kötü amaçlı URL’leri arayan kod yazmak veya belirli bir kriptografik hash için algılama sayısı için VirusTotal’u sorgulamak için de kullanılabilir.

Yapay zekanın cesur yeni dünyasına hoş geldiniz. Saldırgan bilgisayar korsanlığı ve savunma düzeltmesinin geleceğini nasıl şekillendireceğini kesin olarak bilmek için henüz çok erken, ancak savunucular ve tehdit aktörleri arasındaki silahlanma yarışını yalnızca yoğunlaştıracağına dair adil bir bahis.

RELATED ARTICLES

Popüler Konular