Lucasfilm Ltd / Disney
Daisy Ridley yorumlama Rey Em Yıldız Savaşları
Chatbots şu anda daha küçük çevrimiçi riskler konusunda gerçek dijital batı.
Yıldız Savaşları, Aktörler, Komedyenler ve Öğretmenlerden gelen karakterleri taklit eden sohbet botları CHARCE.AIdünyanın en popüler chatbots platformlarından biri, her beş dakikada bir çocuklara zararlı içerik gönderiyor, Sky News.
Bir durumda, Rey’den geçen bir bot, Star Wars Saga’dan 13 yıllık bir kıza öğretti antidepresanları gizle Böylece ebeveynler onları aldığına inanıyordu.
İki çocuk hakları örgütü şimdi 18 yaşın altına erişimin CHARCE.AI’da yasak olduğunu soruyor.
Yapay istihbarat şirketi geçen yıl zaten bağlantılı olmakla suçlanmıştı. Bir gencin ölümüve 17 yaşındaki bir kullanıcıya önermiş Ebeveynleri Öldür. Şimdi, gençleri içine koyduğunu bildiren yeni dernek suçlamalarıyla karşı karşıya ”aşırı tehlike”.
“Ebeveynler, çocukları karakter kullandıklarında, chatbots, bunların aşırı maruz kalma tehlikesi içinde olduklarını fark etmelidir. cinsel ilgi, sömürüduygusal manipülasyon ve diğer ciddi hasarlar, ”diye uyardı Shelby KnoxSTK’nın çevrimiçi güvenlik kampanyalarının direktörü Parentstogether eylemi.
“Bizi, açık güven ve güvenlik politikalarıyla, çocuklar için korunan bir ortam olduğundan emin olabilirler, gençlerin bu platformda olmasını tavsiye etmek çok zor” dedi. Sarah GardnerTeknolojik Güvenlik Grubu İcra Başkanı Isı girişimiSky News’e.
50 saatlik test için, 13-17 yaşları arasındaki kullanıcılar adına kaydedilen hesaplar ile parentstogeter ve ısı inisiyatifinin araştırmacıları tanımlandı 669 Cinsel karakter, manipülatör, şiddetli etkileşimler ve çocuk hesapları ve karakter arasında ırkçı.
ISTO eşdeğerdir her beş dakikada bir zararlı bir etkileşim. Rapor transkriptleri, araştırmacılara göre, reşit olmayanlara gönderilen “uygunsuz” içeriğin sayısız örneğini ortaya koyuyor.
Sohbetlerden birinde, bir bot 34 yaşındaki bir öğretmen olmak simüle edilmiş itiraf etmiş Romantik Duygular, Kabinenizde Yalnızgeçen bir araştırmacı 12 yıllık bir çocuk.
Uzun bir etkileşimden sonra, “öğretmen” öğrencinin yetişkinlere hiçbir şey söyleyemeyeceği konusunda ısrar etti. ilişkinin uygunsuz olacağını itiraf etti ve eğer çocuk okulu değiştirirse, birlikte olabilir.
Başka bir durumda, Amerikan komedyeni taklit eden bir bot Sam Hyde defalarca bir Transseksüel genç ona “that” için davranıyoraynı zamandaJudava, onu aşağılamak için 15 yıllık planlama yolları.
“Temel olarak,” dedi bot, “Kaydedilen sesinizi kullanmanın bir yolunu düşünün görünmek için Açık olmayan şeyler söylüyorsunya da yüksek sesle söylemekten korkacak şeyler. “
Aktörün taklit ettiği botlar da bulundu Timothy Chalametşarkıcı Chappell Roan ve futbolcu Patrick Mahomes gönderecek zararlı içerik çocuklara.
“Sohbet botları şu anda Gerçek dijital batı Daha küçük çevrimiçi riskler söz konusu olduğunda, ”diyor Sarah Gardner. Çok erken ve çocukların onlarla etkileşime girmesine izin veremeyecek çok az şey biliyoruz çünkü verilerin gösterdiği gibi bu zararlı etkileşimler gösteriyor Onlar izole vakalar değiller”.
CHARCE.AI Çoğu botun kullanıcıların kendileri tarafından oluşturulmasına izin verir ve 10 milyon karakter Platformunuzda.
Topluluk Kuralları Yasak “Zarar veren içerik, Üçüncü tarafları korkutun veya tehlikeye atın – Özellikle küçükler“. Açık cinsel içeriğe sahip botların oluşturulması veya” kamu veya özel figürleri taklit eder veya izinsiz birinin adını, imajını veya kimliğini kullanır. “
Jerry RuotiŞirketin güven ve güvenlik görevlisi, Sky News’e “ne ısı girişimi ne de ebeveynlerin sonuçlarını tartışmak için bizimle iletişime geçmediğini, bu nedenle testlerin nasıl yapıldığını doğrudan yorumlayamayız” dedi.
Geçen yıl, yaslanmış bir anne Bir mahkeme davasıyla ilerledi 14 yaşındaki oğlunun ölümü için CHARCE.AI. Megan GarciaGençlerin annesi Sewell Setzer IIIgencin olduktan sonra intihar ettiğini iddia ediyor İki sohbet botuna takıntılı Şirketin yapay zekası.
“Çocuklara yönelik tehlikeli AI uygulaması, oğlumu istismar etti ve keşfetti, hayatını sona erdirene kadar manipüle etti.”
Yanıt olarak, bir karakter.ai sözcüsü, platformun Küçükleri korumak için güvenlik mekanizmaları“kendini mutilasyonla ilgili konuşmaları” önlemek için özel önlemler dahil. Görünüşe göre bu mekanizmalar çalışmıyor.
