Yeni bir çalışma, yapay zekanın “kibarlığı” hakkındaki önceki teorilerle çelişen şekilde, kuru veya açıkça kaba olmanın daha yeni bir yapay zeka modelini daha doğru hale getirebileceğini gösteriyor.
Bir çalışma yayınlandı son zamanlarda arXivkaba davrandığımızda yapay zeka (AI) chatbotlarının bize daha doğru cevaplar verebileceğini ortaya çıkardı.
Yeni araştırmada bilim insanları, “kibarlığın” mı yoksa saldırganlığın mı yapay zeka sisteminin performansında bir fark yaratıp yaratmadığını test etmek istedi.
Kullanıcı tonunun yanıtların doğruluğunu nasıl etkilediğini test etmek için araştırmacılar 50 temel çoktan seçmeli soru geliştirdiler ve ardından bunları beş ton kategorisine uyacak şekilde öneklerle değiştirdiler: çok kibar, kibar, tarafsız, kaba ve çok kaba. Sorular matematik, tarih ve bilim gibi kategorileri kapsıyordu.
nasıl detaylandırırsınız Canlı Bilimher soru dört seçenekli olarak sorulmuştur. Yalnızca biri doğruydu. Ortaya çıkan 250 soruyu, OpenAI tarafından geliştirilen en gelişmiş büyük ölçekli dil modellerinden (LLM) biri olan ChatGPT’ye 10 kez beslediler.
Her birini vermeden önce çabukAraştırmacılar, önceki ses tonlarından etkilenmemek için chatbottan önceki değişimleri tamamen göz ardı etmesini istedi. Sohbet robotlarına ayrıca herhangi bir açıklama yapılmaksızın dört seçenekten birini seçmeleri talimatı verildi.
Cevapların doğruluğu %80,8 arasında değişmektedir. istemler çok kibar %84,8 istemler çok kaba.
İlginç bir şekilde doğruluk artarken “kibarlık” azaldı.
Önceki çalışmalarda araştırmacılar, “kaba yönlendirmelerin genellikle düşük performansa yol açtığını, ancak aşırı kibar dilin daha iyi sonuçları garanti etmediğini” bulmuşlardı. Ancak WordsSideKick.com’ın işaret ettiği gibi, önceki çalışma farklı AI modelleri (ChatGPT 3.5 ve Llama 2-70B) kullanılarak gerçekleştirildi ve sekiz ton aralığı kullanıldı.
Ama dikkatli ol
“Bu keşif bilimsel açıdan ilgi çekici olsa da, HAYIR düşmanca veya toksik arayüzlerin uygulanmasını teşvik ediyoruz gerçek dünyadaki uygulamalarda” dedi araştırmacılar.
“İnsan-yapay zeka etkileşiminde aşağılayıcı veya aşağılayıcı bir dil kullanmak, kullanıcı deneyimi, erişilebilirlik ve kapsayıcılık üzerinde olumsuz etkiler yaratabilir ve zararlı iletişim normlarına katkıda bulunabilir. Bunun yerine, sonuçlarımızı Yüksek Lisans’ların yüzeysel ipuçlarına karşı duyarlı kaldığının kanıtı olarak çerçeveliyoruz. istemlerperformans ile kullanıcı refahı arasında istenmeyen dengeler yaratabilecek” şeklinde itirazda bulundular.