Nikolas Kokovlis | Nurfoto | Getty Images
Malezya ve Endonezya, Elon Musk’un yapay zeka sohbet robotu Grok’a erişimi, aracın rıza dışı, müstehcen ve müstehcen içerik oluşturmak için kullanıldığına dair endişeler nedeniyle hafta sonu engelledi.
Malezyalı düzenleyiciler sipariş edildi AI aracıyla ilişkili içerik risklerini ele almak için “X Corp tarafından tekrarlanan hatalar” sonrasında Pazar günü xAI’nin chatbot’una geçici kısıtlamalar getirilecek.
Hareket, Endonezya’nın benzer endişeler nedeniyle Grok’a erişimi geçici olarak reddetmek için devreye girmesinden ve X yetkililerinden konuya açıklık getirmesini istemesinden sadece bir gün sonra geldi. CNBC’nin açıklamanın tercümesine göre.
Güneydoğu Asya ülkelerinin eylemleri, yapay zeka aracının bazı kullanıcılarının oluşturulan Az giyimli küçüklerin tasvirleri de dahil olmak üzere, rıza dışı müstehcen görseller ve deepfake’ler.
Musk’un şirketi yakın zamanda Grok Imagine özelliklerini güncelleyerek, Musk’ın sosyal medya platformu X ile entegre olan platformda metin tabanlı yönlendirmelerden daha kolay görüntü oluşturulmasını sağlayarak geniş bir erişim olanağı sağladı.
Grok’un içerik denetleme politikasına ilişkin endişelerin arttığı bir dönemde xAI duyuruldu cinselleştirilmiş çıktılara izin veren güvenlik boşluklarını kapatmak amacıyla görüntü oluşturma ve düzenleme özelliklerini ödeme yapan abonelerle sınırlandıracaktır.
Misk, yanıt veriyor X hakkında, Grok aracılığıyla yasa dışı içerik oluşturan kullanıcıların, bu tür materyalleri doğrudan sosyal medya platformuna yüklemeye eşdeğer sonuçlarla karşılaşacaklarını da ileri sürdü.
CNBC, hafta sonu yaşanan gelişmelerle ilgili yorum almak için xAI’ye ulaşmaya çalıştı. Şirketin basın e-postasında “Eski Medya Yalanları” yazan otomatik bir mesaj geri döndü.
“Yetersiz” yanıtlar
Ancak tartışmanın ortasında X’in kamu ve özel sektöre verdiği yanıtlar, Endonezya ve Malezya’daki düzenleyicilerin yanı sıra soruşturma başlatan diğerlerinin endişelerini gidermede başarısız oldu.
Malezya İletişim ve Multimedya Komisyonu, X’in “yetersiz” yanıtlarının “öncelikle kullanıcı tarafından başlatılan raporlama mekanizmalarına dayandığını ve yapay zeka aracının tasarımı ve işleyişinden kaynaklanan doğal riskleri ele almada başarısız olduğunu” söyledi.
Gözlemci, “Buna göre kısıtlama, yasal ve düzenleyici süreçler devam ederken önleyici ve orantılı bir tedbir olarak uygulanıyor.” dedi. “Grok’a erişim, özellikle kadın ve çocukların yer aldığı içeriğin engellenmesi için etkili önlemler alınana kadar sınırlı kalacaktır.”
Hem Endonezya hem de Malezya, müstehcen ve cinsel içeriklerin çevrimiçi olarak daha geniş bir şekilde paylaşılmasını yasaklayan katı pornografi karşıtı yasalara sahiptir.
Bu arada Endonezya İletişim ve Dijital İşler Bakanlığı Meutya Hafid, “Hükümet, rıza dışı cinsel deepfake’leri dijital alanda insan haklarının, onurunun ve vatandaşların güvenliğinin ciddi bir ihlali olarak görüyor” dedi.
Devlete ait Antara News tarafından paylaşılan açıklamalara göre Hafid, yapay zekanın sahte pornografi oluşturmak amacıyla kötüye kullanımını da “dijital temelli şiddet” biçimi olarak sınıflandırdı.
Avrupa Birliği, Birleşik Krallık, Brezilya ve Hindistan da dahil olmak üzere diğer yargı bölgelerindeki yetkililer de sondalar için çağrıldı Grok’un müstehcen ve rıza dışı deepfake’leri kolaylaştırmadaki rolü.
Bu arada Washington’daki bazı Demokrat milletvekilleri tavsiye edilen Bu uygulama mağazaları, en azından Musk büyük değişiklikler uygulayana kadar AI aracını askıya alıyor.
bir Geçen hafta CNBC’ye e-posta gönderdim, Adalet Bakanlığı yaptığı açıklamada, “Yapay zeka tarafından üretilen çocuklara yönelik cinsel istismar materyallerini son derece ciddiye alıyor ve bu materyallerin herhangi bir üreticisini veya sahibini agresif bir şekilde kovuşturacak” dedi. [child sexual abuse materials]”
“Çocukları korumak ve en savunmasızlarımıza zarar vermek için teknolojiden yararlanan bireyleri sorumlu tutmak için bu alandaki uygulamaları optimize etmenin yollarını keşfetmeye devam ediyoruz” diye ekledi.
— CNBC’den Lora Kolodny bu rapora katkıda bulundu.