Endişe verici bir rapor, “Elimizde oldukça büyük bir sorun var ve bunun ölçeğini tam olarak anladığımızı sanmıyorum” diye belirtiyor.
Dijital güvenlik şirketi Aura tarafından yakın zamanda yapılan bir analiz, reşit olmayanların %42’sinin yapay zekayı arkadaşlık sohbetleri ve “rol oynamak” için kullandığı sonucuna varıyor. Ancak bu grubun içinde daha korkutucu bir gerçek gizlidir: Yüzde 37’si şiddet içeren senaryolara karıştı Bu konuşmaların yarısında chatbot ile cinsel şiddete atıfta bulunularak, fiziksel saldırganlık, zorlama ve rıza dışı eylemler gibi.
senin içinde rapor Aura, yıllık Gençliğin Durumu Raporu’nda, yaşları 5 ile 17 arasında değişen yaklaşık 3.000 ABD’li reşit olmayan kişiden elde edilen cihaz düzeyindeki verileri, çocuklar ve ebeveynlerle yapılan ulusal anketlerle birleştirdi.
Rapor, ChatGPT gibi sohbet robotlarıyla yoğun bir etkileşim modelini anlatıyor: birçok genç, günde bin kelimeyi aşabilen uzun rol yapma dizileri yazıyor. Araştırmacılar için, şiddet bu tür konuşmalarda kalıcılığın ve katılımın ana faktörü olarak ortaya çıkıyor.
Zirve 11 yaş civarında ortaya çıkarNeresi Şirketin chatbot’larıyla yapılan konuşmaların %44’ü şiddet unsurları içeriyordutüm yaş grupları arasında en yüksek orandır. 13 yaşından itibaren, ergenlik sürecinin ortasına veya sonuna doğru, cinsel veya romantik nitelikteki konuşmalar baskın hale geliyor ve dijital “arkadaşlarla” yapılan sohbetlerin neredeyse üçte ikisinde ortaya çıkıyor.
Ancak Aura’ya göre bu konulara olan ilgi ergenlik döneminin ortalarında düşüyor; bu da ergenlik öncesi ve erken ergenlik yıllarının aşırı içeriğin en fazla keşfedildiği dönem olduğunu gösteriyor.
Açıklamalarda FütürizmAura’nın tıbbi direktörü Scott Kollins, fenomenin şu anda bilinenden daha geniş olabileceğini belirtti.
“Elimizde oldukça büyük bir sorun var ve bunun boyutunu tam olarak anladığımızı düşünmüyorum” dedi doktor.
Rapor, bu eğilimleri “neredeyse tamamen” yapay zeka ekosisteminde çerçeveliyor düzenlenmemişAura, 250’den fazla chatbot uygulaması tespit ettiğini ve bunların çoğunun yalnızca bir onay kutusu aracılığıyla kendi yaşını beyan etme sistemine dayandığını söylüyor.
OpenAI ve Character.AI gibi sektördeki şirketlere karşı açılan davalarda artış yaşandı. Ebeveynler, duygusal istismar ve psikolojik etkilerden ölümle ilişkili vakalara kadar, chatbotlarla etkileşimlerin çocuklarına zarar verdiğini iddia ediyor.
Ekim ayında OpenAI, yetişkinlerin de yakında bu özelliklere sahip olabileceğini duyurdu. erotik konuşmalar ChatGPT ile.
Sosyal ağ X’in CEO’su Sam Altman, “Aralık ayında, yaş kısıtlamalarını daha kapsamlı bir şekilde uyguladıkça ve yetişkin kullanıcılara yetişkin muamelesi yapma ilkemizin bir parçası olarak, doğrulanmış yetişkinler için erotik içerik gibi daha fazlasına izin vereceğiz” dedi.
Aura şimdilik ailelerin daha dikkatli olmasını savunuyor ve bu sistemlerin rahatsız edici konuşmaları durdurmak yerine artırıp uzatabileceği konusunda uyarıda bulunuyor.
Çocukların ve yapay zekaya erişim kolaylığının kendini gösterme şekli korkutucu olmaya başlıyor. Daha geçen ay Güney Kore’de cinsel siber suçlardan şüphelenilen 3.500 kişi gözaltına alındı. Yarısı gençti Tanıdıkları kişilerin teknoloji aracılığıyla oluşturulmuş cinsel içerikli resimlerini paylaşanlar derin sahteGerçekçi ancak sahte görseller ve videolar oluşturmak için yapay zekayı kullanan.