Cuma, Haziran 21, 2024
Ana SayfaTeknoloji Haberleri"Şimdiden özür dilerim!" Snapchat, yeni yapay zeka sohbet kutusuyla halüsinasyonlara karşı...

“Şimdiden özür dilerim!” Snapchat, yeni yapay zeka sohbet kutusuyla halüsinasyonlara karşı uyarıyor…

Snapchat logosunun renkli ve vahşi bir yorumu.

Benj Edwards / Snap, Inc.

Pazartesi günü Snapchat, OpenAI’nin ChatGPT tarzı teknolojisiyle desteklenen “My AI” adlı yapay zeka destekli deneysel bir sohbet robotunu duyurdu. Snap, Inc. tarafından yayınlanan bir habere göre yapay zekam, Snapchat+ aboneleri için ayda 3,99 ABD Doları karşılığında satışa sunulacak ve “bu hafta” kullanıma sunulacak.

Kullanıcılar, yapay zeka botuna özel bir ad vererek kişiselleştirebilecek. AI modeliyle yapılan görüşmeler, bir insanla yapılan normal sohbete benzer bir arayüzde gerçekleşecek. Snap CEO’su Evan Spiegel, The Verge’e “Büyük fikir, her gün arkadaşlarımız ve ailemizle konuşmanın yanı sıra, AI ile her gün konuşacağız” dedi.

Ancak GPT destekli kuzenleri ChatGPT ve Bing Chat gibi Snap, My AI’ın bir AI modeli tarafından üretilen beklenmedik yanlışlıklar olan “halüsinasyonlara” eğilimli olduğunu söylüyor. Bu noktada Snap, My AI duyuru gönderisinde oldukça uzun bir sorumluluk reddi beyanı içeriyor:

“Yapay zeka destekli tüm sohbet robotlarında olduğu gibi, My AI halüsinasyona eğilimlidir ve hemen hemen her şeyi söylemesi için kandırılabilir. Lütfen birçok eksikliğinin farkında olun ve şimdiden özür dilerim! My AI ile yapılan tüm konuşmalar saklanacak ve şu kişiler için incelenebilir: ürün deneyimini geliştirin. Lütfen My AI ile herhangi bir sır paylaşmayın ve tavsiye için ona güvenmeyin.”

Makine öğrenimi araştırmacıları arasında “halüsinasyon”, bir yapay zeka modelinin eğitim veri setinde yer almayan bir konu veya durum hakkında yanlış çıkarımlarda bulunmasını açıklayan bir terimdir. Bu, ChatGPT gibi mevcut büyük dil modellerinin iyi bilinen bir dezavantajıdır ve kulağa inandırıcı gelen yalanları kolayca uydurabilir. akademik makaleler var olmayan ve yanlış biyografiler.

Snap’in My AI’ın bir şeyler uydurma eğilimi hakkındaki güçlü reddine rağmen, firma yeni Snapchat botunun Snapchat uygulamasındaki kendi sekmesinde arkadaşlarla yapılan konuşmaların üzerine sabitleneceğini ve “en yakın arkadaşınız için doğum günü hediyesi fikirleri önereceğini, bir yürüyüş gezisi planlayacağını” söylüyor. uzun bir hafta sonu için, akşam yemeği için bir tarif önerin, hatta çedar takıntılı dostunuz için peynir hakkında bir haiku yazın.”

Snap, aynı botun “rel” olamayacağını uzlaştırmaz.[ied] tavsiye almak için” aynı zamanda “uzun bir hafta sonu için doğru ve güvenli bir yürüyüş gezisi” planlayabilir. referans olarak sunulmuştur.

İnsanlar ChatGPT ve Bing Chat’in geçici çözümlerini atlatmaya çalışan bir oyun haline getirirken, Snap’in GPT modelini seks, küfür, şiddet veya siyasi görüşleri tartışmayacak şekilde eğittiği bildirildi. Bu kısıtlamalar, birkaç hafta önce Bing Chat’te gördüğümüz dengesiz davranışlardan kaçınmak için özellikle gerekli olabilir.

Ve iki kez, çünkü “Yapay Zekam”ın altında güçlü bir şey olabilir: OpenAI’nin yeni nesil büyük dil modeli. The Verge’e göre Snap, “adlı yeni bir OpenAI kurumsal planını kullanıyor.dökümhaneOpenAI bu ayın başlarında sessiz bir şekilde kullanıma sunuldu. Şirketlere OpenAI’nin GPT-3.5 ve “DV” modellerine özel bulut erişimi sağlıyor. Birkaç yapay zeka uzmanı, spekülasyon “DV”, GPT-3’ün devamı olduğu söylenen yüksek güçlü GPT-4’e eşdeğer olabilir.

Diğer bir deyişle, Snap’in haber bülteninde bahsedilen “halüsinasyonlar”, ChatGPT’den daha hızlı gelebilir ve daha ayrıntılı olabilir. Diğer GPT modellerinin son derece inandırıcı doğası göz önüne alındığında, uyarılara rağmen insanlar buna inanabilir. Önümüzdeki aylarda GPT destekli yeni ticari hizmetler çevrimiçi hale gelirken izlenmesi gereken bir şey.

RELATED ARTICLES

Popüler Konular