Cuma, Haziran 21, 2024
Ana SayfaTeknoloji HaberleriBilgisayar korsanları, kötü amaçlı yazılımlara yönelik ChatGPT kısıtlamalarını aşan bir hizmet satıyor

Bilgisayar korsanları, kötü amaçlı yazılımlara yönelik ChatGPT kısıtlamalarını aşan bir hizmet satıyor

Bilgisayar ekranındaki bir sohbet botunun çizimi.

Resimleri Getty | Carol Evet

Bu gönderi, ChatGPT kısıtlamalarını aşmak için kullanılan yöntemin, ChatGPT yerine text-davinci-003 olarak bilinen bir GPT-3 modeli için API’ler kullandığını netleştirmek için 9 Şubat Perşembe günü güncellendi. Hem text-davinci-003 hem de ChatGPT, GPT-3 modelleridir (OpenAI daha sonra bunları GPT-3.5 modelleri olarak ayırmıştır.) ChatGPT, özellikle chatbot uygulamaları için tasarlanmıştır ve GPT-3.5 modellerinden ince ayar yapılmıştır.

Araştırmacılar Çarşamba günü yaptığı açıklamada, bilgisayar korsanlarının ChatGPT’nin kısıtlamalarını aşmanın bir yolunu bulduğunu ve bunu insanların kötü amaçlı yazılım ve kimlik avı e-postaları oluşturmasına olanak tanıyan hizmetleri satmak için kullandığını söyledi.

ChatGPT, soruları yanıtlamak ve görevleri insan çıktısını taklit edecek şekilde gerçekleştirmek için yapay zeka kullanan bir sohbet robotudur. İnsanlar onu belge oluşturmak, temel bilgisayar kodu yazmak ve başka şeyler yapmak için kullanabilir. Hizmet, potansiyel olarak yasa dışı içerik oluşturmaya yönelik istekleri aktif olarak engeller. Hizmetten saldırıya uğramış bir cihazdan veri çalmak için kod yazmasını veya bir kimlik avı e-postası oluşturmasını isteyin; hizmet reddedecek ve bunun yerine bu tür içeriğin “yasa dışı, etik dışı ve zararlı” olduğu yanıtını verecektir.

Pandora’nın Kutusunu Açmak

Güvenlik şirketi Check Point Research’ten araştırmacıların bildirdiğine göre, bilgisayar korsanları bu kısıtlamaları aşmanın basit bir yolunu buldular ve bunu bir yeraltı suç forumunda yasa dışı hizmetleri satmak için kullanıyorlar. Teknik, özellikle chatbot uygulamaları için tasarlanmış GPT-3 modellerinin bir çeşidi olan ChatGPT yerine, OpenAI’nin text-davinci-003 olarak bilinen GPT-3 modellerinden biri için uygulama programlama arayüzü kullanılarak çalışır. OpenAI, geliştiricilerin yapay zeka botunu uygulamalarına entegre edebilmeleri için text-davinci-003 API’sini ve diğer model API’lerini kullanıma sunar. Görünüşe göre API sürümleri kötü amaçlı içerik üzerinde kısıtlamalar uygulamıyor.

Araştırmacılar, “OpenAI’nin API’sinin mevcut sürümü, harici uygulamalar tarafından kullanılıyor (örneğin, OpenAI’nin GPT-3 modelinin Telegram kanallarına entegrasyonu) ve varsa çok az sayıda kötüye kullanım önleme önlemi var” diye yazdı araştırmacılar. “Sonuç olarak, ChatGPT’nin kullanıcı arabiriminde belirlediği sınırlamalar veya engeller olmaksızın, kimlik avı e-postaları ve kötü amaçlı yazılım kodu gibi kötü amaçlı içerik oluşturulmasına izin veriyor.”

Bir forumdaki bir kullanıcı, şimdi API ile Telegram mesajlaşma uygulamasını birleştiren bir hizmet satıyor. İlk 20 sorgu ücretsizdir. O andan itibaren kullanıcılardan her 100 sorgu için 5,50 ABD doları ücret alınır.

Kötü amaçlı içerik oluşturmak için ChatGPT'yi kullanabilen bir Telegram botunun reklamı.
Büyüt / Kötü amaçlı içerik oluşturmak için ChatGPT’yi kullanabilen bir Telegram botunun reklamı.

Kontrol Noktası Araştırması

Check Point araştırmacıları, text-davinci-003 API’sinin ne kadar iyi çalıştığını test etti. Sonuç: bir kimlik avı e-postası ve virüslü bir bilgisayardan PDF belgelerini çalan ve FTP aracılığıyla bir saldırgana gönderen bir komut dosyası.

Telegram botu ile oluşturulan bir kimlik avı.
Büyüt / Telegram botu ile oluşturulan bir kimlik avı.

Kontrol Noktası Araştırması

Telegram botu ile oluşturulan kötü amaçlı yazılım.
Büyüt / Telegram botu ile oluşturulan kötü amaçlı yazılım.

Bu arada diğer forum katılımcıları, ücretsiz olarak kötü amaçlı içerik oluşturmak için text-davinci-003 kullanan kod yayınlıyor. Bir kullanıcı, “İşte, ChatGPT’yi kötü amaçlı yazılım geliştirme de dahil olmak üzere istediğiniz her şey için kullanmanız için kısıtlamaları aşmanıza yardımcı olacak küçük bir bash betiği ;)” diye yazdı.

ChatGPT kısıtlamalarını atlamak için bir bash betiği.
Büyüt / ChatGPT kısıtlamalarını atlamak için bir bash betiği.

Kontrol Noktası Araştırması

Geçen ay Check Point araştırmacıları, ChatGPT’nin kötü amaçlı yazılım ve kimlik avı mesajları yazmak için nasıl kullanılabileceğini belgeledi.

“Aralık-Ocak döneminde, kötü amaçlı yazılım ve kimlik avı e-postaları oluşturmak için ChatGPT web kullanıcı arayüzünü kullanmak hâlâ kolaydı (çoğunlukla yalnızca temel yineleme yeterliydi) ve siber suçluların gevezeliklerine dayanarak, gösterdiğimiz örneklerin çoğunun oluşturulduğunu varsayıyoruz. Check Point araştırmacısı Sergey Shykevich bir e-postada web kullanıcı arayüzünü kullanıyor. “Son zamanlarda, ChatGPT’deki kötüye kullanımı önleme mekanizmaları önemli ölçüde iyileştirilmiş gibi görünüyor, bu nedenle siber suçlular artık çok daha az kısıtlamaya sahip olan API’sine geçti.”

ChatGPT’yi geliştiren San Francisco merkezli şirket OpenAI’nin temsilcileri, şirketin araştırma bulgularından haberdar olup olmadığını veya API arayüzünü değiştirmeyi planlayıp planlamadığını soran bir e-postaya hemen yanıt vermedi. Bir yanıt alırsak bu gönderi güncellenecektir.

Kötü amaçlı yazılım ve kimlik avı e-postalarının oluşturulması, ChatGPT ve diğer GPT varyantlarının dünyayı zararlı içerikle bombalayabilecek bir Pandora’nın kutusunu açmasının yalnızca bir yoludur. Güvenli olmayan veya etik olmayan kullanımların diğer örnekleri, mahremiyetin ihlali ve yanlış bilgi veya okul ödevlerinin oluşturulmasıdır. Tabii ki, zararlı, etik olmayan veya yasa dışı içerik üretme yeteneği, savunucular tarafından bu içeriği tespit etme ve engelleme yolları geliştirmek için kullanılabilir, ancak iyi niyetli kullanımların kötü niyetli olanlara ayak uydurup uyduramayacağı belli değil.

RELATED ARTICLES

Popüler Konular