Cumartesi, Haziran 22, 2024
Ana SayfaTeknoloji HaberleriAI tehlikeleri arasında, derin sahteler Microsoft başkanını en çok endişelendiriyor

AI tehlikeleri arasında, derin sahteler Microsoft başkanını en çok endişelendiriyor

Yapay zeka tarafından oluşturulmuş bir görüntü
Büyüt / Yapay zeka tarafından oluşturulmuş bir “sahte görüntüler duvarı” görüntüsü.

Kararlı Difüzyon

Reuters’in bildirdiğine göre Perşembe günü, Microsoft Başkanı Brad Smith, yapay zeka hakkındaki en büyük endişesinin derin sahtekarlıklar ve aldatmak için tasarlanmış sentetik medyaya yönelik artan endişe etrafında döndüğünü duyurdu.

Smith, Washington DC’deki bir dil sanatları müzesi olan Planet World’de yaptığı bir konuşmada “AI’nın kamu yönetimi için planını” açıklarken sözlerini dile getirdi. Endişeleri, büyük ölçüde OpenAI’nin ChatGPT’sinin popülaritesi ve OpenAI CEO’su Sam Altman’ın siyasi turuyla tetiklenen yapay zeka düzenlemeleri hakkındaki konuşmaların giderek yaygınlaşmasıyla ortaya çıkıyor.

Smith, gerçek fotoğraflar veya videolar ile yapay zeka tarafından oluşturulanlar arasında yasa dışı amaçlarla, özellikle de toplumu istikrarsızlaştıran dezenformasyonun sağlanmasında kullanılabilecekleri arasında ayrım yapmanın yollarını formüle etme konusundaki aciliyet arzusunu dile getirdi.

“Derin sahtekarlıklarla ilgili sorunları ele almamız gerekecek. Özellikle yabancı siber etki operasyonlarının çoğu hakkında endişelendiğimiz şeyleri ele almamız gerekecek, halihazırda Rus hükümeti, Çinliler tarafından gerçekleştirilen faaliyetler, İranlılar,” dedi Smith, Reuters’e göre. “Yapay zeka kullanarak insanları aldatmak veya dolandırmak amacıyla meşru içeriğin değiştirilmesine karşı koruma sağlamak için adımlar atmalıyız.”

Smith ayrıca, bu lisansların fiziksel, siber güvenlik veya ulusal güvenlik tehditlerine karşı koruma yükümlülükleri taşıması gerektiğini savunarak yapay zekanın kritik biçimleri için lisans verilmesini savundu. “Bu modellerin çalınmamasını veya ülkenin ihracat kontrol gerekliliklerini ihlal edecek şekillerde kullanılmamasını sağlamak için yeni nesil ihracat kontrollerine, en azından sahip olduğumuz ihracat kontrollerinin evrimine ihtiyacımız olacak” dedi.

Altman geçen hafta ABD Senatosuna çıktı ve yeni gelişen endüstrinin düzenlenmesi gerektiğini söyleyerek yapay zeka hakkındaki endişelerini dile getirdi. OpenAI şirketi Microsoft tarafından desteklenen Altman, yapay zeka konusunda küresel işbirliğini ve güvenlik uyumluluğu için teşvikleri savundu.

Smith, Perşembe günü yaptığı konuşmada bu duyguları yineledi ve insanların yapay zekanın neden olduğu sorunlardan sorumlu tutulması gerektiğinde ısrar etti. İnsan gözetimini sağlamak için elektrik şebekesi ve su kaynağı gibi kritik altyapıyı kontrol eden AI sistemlerine güvenlik önlemleri alınması çağrısında bulundu.

Smith, yapay zeka teknolojileri çevresinde şeffaflığı sürdürme çabası içinde, geliştiricilerin yapay zeka teknolojilerinin nasıl kullanıldığını yakından takip etmek ve yapay zeka tarafından oluşturulan içerik hakkında halkı bilgilendirmek için “müşterinizi tanıyın” tarzı bir sistem geliştirmeleri gerektiğini vurguladı. uydurma içeriği tanımlayın. Bu doğrultuda, Adobe, Google ve Microsoft gibi şirketlerin tümü, yapay zeka tarafından oluşturulan içeriği filigranlama veya başka bir şekilde etiketleme yolları üzerinde çalışıyor.

Deepfakes, yıllardır Microsoft’ta bir araştırma konusu olmuştur. Eylül ayında Microsoft’un Bilimsel Baş Sorumlusu Eric Horvitz, hem etkileşimli derin sahtekarlıkların tehlikeleri hem de sentetik geçmişlerin oluşturulması hakkında bir araştırma makalesi kaleme aldı. .

Bu arada Microsoft, Office ve Windows da dahil olmak üzere ürünlerine metin ve görüntü tabanlı üretken yapay zeka teknolojisini dahil etmek için eş zamanlı olarak baskı yapıyor. Koşulsuz ve yeterince test edilmemiş bir Bing sohbet robotunun (GPT-4’ün bir sürümüne dayalı) Şubat ayında kabaca piyasaya sürülmesi, kullanıcılarından derinden duygusal tepkiler aldı. Ayrıca, bazı eleştirmenlerin AI satıcılarının bilinçli bir pazarlama kampanyasının parçası olduğunu iddia ettiği bir tepki olarak, dünyaya hakim süper zekanın hemen köşede olabileceğine dair gizli korkuları yeniden alevlendirdi.

Öyleyse soru şu: Microsoft gibi şirketlerin bizi uyardıkları ürünü satması ne anlama geliyor?

RELATED ARTICLES

Popüler Konular