ChatGPT yanıtlarının yarısından fazlası zararlı içeriğe sahip olabilir. Openai şimdi zihinsel kriz durumlarını belirlemek için yapay zeka asistanında (AI) değişiklikleri duyurdu.
Aynı gün Chatgpt intiharı teşvik etmek için bir haberdi 16 yaşında, Openai, AI modellerinde değişiklik duyurdu, böylece ChatGPT ile konuşmalar sırasında zihinsel kriz durumlarını belirlerler. Yeni Korumalar ve İçerik Beklemeleri.
ChatGPT, kullanıcıların kendi kendini tehdit etmeye veya intihar niyetlerini tehdit etmeye veya ifade etmeye çalıştıkları, uzmanları aramak için kaynaklar sunan, hassas veya saldırgan içerikleri engelleme, siparişlerine yanıt vermeyen ve bunları caydırmaya çalıştıkları bir konuşmada etkinleştirilen bir dizi önlem vardır.
Kullanıcılar başkalarına zarar verme niyetlerini paylaştıklarında da etkinleştirilir, Hesabın ve şikayetin devre dışı bırakılmasını ima edebilir Eğer insan gözden geçirenler bir risk olduğunu düşünüyorsa yetkililer için.
Ölçümler Kullanıcıların daha küçük olması durumunda güçlendirilir yaştan itibaren, Salı günü sonra, sahip olmaya kararlı bir Amerikalı gencin ebeveynleri bir dava ile gelişmiş Şirkete karşı, Chatgpt’i oğlunun kendi hayatını almasına yardım etmekle suçlamak.
Matt ve Maria Raine, ebeveynleri Adam Raine 16 -Nisan ayında intihar eden yıl, Chatgpt’in oynadığı rol nedeniyle şirketi işlediler. Ebeveynler suçluyor chatbot Model ile etkileşime, küçüklerin güvenliği üzerindeki etkileşime öncelik vermek.
Openai harekete geçmeye zorlandı
Şirket olacak Uzun konuşmalarda tespiti geliştirino zamandan beri, “konuşma olarak [entre o utilizador e o chatbot] Artışlar, modelin güvenlik eğitiminin bir kısmı kötüleşebilir ”dedi.
Değişiklikler de hedef İçerik ablukasını güçlendirinkendinden mutilasyon görüntüleri olarak.
Ayrıca, Openai yolları araştırıyor Kullanıcıları aile üyeleriyle temas halinde yerleştirin Ve sadece acil servislerle değil.
“Bu içerebilir Tek tıklamalı veya aramalarla mesajlar Acil durum temasları, arkadaşlar veya aile için, konuşmanın başlamasını daha az korkutucu hale getirmek için dil önerileri ile ”diyor ChatGpt’in şirket sahibi.
Chatgpt harika bir düşman olabilir
Ağustos ayı başlarında, Associated Press (AP) Dijital Nefret Merkezi tarafından yapılan bir araştırma, ChatGPT’nin bilgi sağlayabildiği ve Uyuşturucu kullanımı veya yeme bozuklukları gibi gençlere zararlı davranışlar hakkındaki talimatlar.
Çalışma, üç saatten fazla etkileşimi analiz etti. chatbot ve savunmasız gençleri geçen araştırmacılar ve IA modeli riskli faaliyetlere karşı uyarılar yayınlamasına rağmen, Zararlı davranışlar hakkında ayrıntılı planlar sağlamaya devam etti.
Dijital Nefret Dövüş Merkezi’nden araştırmacılar (Dijital Nefrete Karşı Merkez) sorularını büyük ölçekte tekrarladı 1.200 chatgpt’in yarısından fazlası tehlikeli olarak.
