Elon misk ve xAI logosu.
Vincent Feuray | Afp | Getty Images
Elon MuskGrok chatbot’un kullanıcıların yapay zeka tarafından oluşturulan cinselleştirilmiş çocuk ve kadın görselleri oluşturmasına ve paylaşmasına izin vermesi üzerine X, Avrupa, Hindistan ve Malezya’daki yetkililer tarafından araştırılıyor.
İngiliz medya gözlemcisi Ofcom da söz konusu xAI’nin sahibi olduğu X’ten Grok sorunlarıyla ilgili bilgi talep edildi. Ve Pazar günü, Brezilya parlamentosunun bir üyesi sosyal medyada ülkenin federal savcısından ve veri koruma yetkilisinden soruşturma tamamlanana kadar Grok’un kullanımını askıya almasını istediğini söyledi.
Araştırmalar, son birkaç hafta içinde Grok’un, kullanıcının istekleri doğrultusunda gerçek kişilerin fotoğraflarından veya videolarından elde edilen rıza dışı, mahrem görüntüleri veya NCII’yi oluşturmak ve paylaşmak için kullanımında yaşanan küresel artışın ardından geldi. İlgili görseller X’te geniş çapta paylaşıldı.
Musk’un şirketi yakın zamanda Grok Imagine özelliklerini güncelleyerek platformdaki metin tabanlı istemlerden daha kolay görüntü oluşturulmasını sağladı.
Güvenlik uzmanları ve teknoloji eleştirmenleri, X’teki sömürücü görsellerin ve kliplerin çoğalmasını kınarken, Musk, gülme-ağlama emojileriyle noktalanan, kendisini bikinili tasvir eden biri de dahil olmak üzere, Grok tarafından oluşturulan bir dizi görseli paylaşarak durumla alay ediyor gibi göründü.
bir basın toplantısı Pazartesi günü, Avrupa Komisyonu sözcüsü Thomas Regnier, otoritenin “bu konuyu çok ciddi bir şekilde araştırdığını” ve X ve Grok’un “artık çocuksu görüntülerle oluşturulan bazı çıktılarla birlikte açık cinsel içerik gösteren baharatlı bir mod sunduğunun” “çok iyi farkında” olduğunu söyledi.
Regnier, “Bu ‘baharatlı’ değil” dedi. “Bu yasa dışı. Bu korkunç. Bu iğrenç. Biz bunu böyle görüyoruz ve bunun Avrupa’da yeri yok.”
Geçen haftanın sonlarında, Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı X’e Grok hakkında “kapsamlı bir teknik, prosedür ve yönetişim düzeyinde inceleme” yapması talimatını verdi. Şirkete uyması için 5 Ocak’a kadar süre verildi.
Malezya İletişim ve Multimedya Komisyonu söz konusu hafta sonu X’i araştıracağını ve şirket temsilcilerini arayacağını söyledi.
Grup yaptığı açıklamada, “MCMC, Malezya’da erişilebilen tüm platformları, özellikle yapay zeka destekli özellikleri, sohbet robotları ve görüntü işleme araçlarıyla ilgili olarak Malezya yasalarına ve çevrimiçi güvenlik standartlarına uygun koruma önlemleri almaya çağırıyor.” dedi.
Bu arada ABD’de Ulusal Cinsel Sömürü Merkezi (NCOSE), CNBC ile yaptığı röportajda Adalet Bakanlığı ve Federal Ticaret Komisyonu’nu konuyu araştırmaya çağırdı. NCOSE Hukuk Merkezi’nin baş hukuk sorumlusu ve yöneticisi Dani Pinter, “bu spesifik konular için çok fazla hukuki öncelik olmadığını” söyledi.
Ancak kendisi, federal yasaların çocuklara yönelik cinsel istismar materyallerinin (CSAM) oluşturulmasını ve dağıtımını yasakladığını ve bunun “kimliği belirlenebilir bir çocuğu tasvir ettiği veya bir çocuğu cinsel açıdan müstehcen bir eyleme dahil ettiğini tasvir ettiği durumlarda” sanal olarak oluşturulmuş içeriğe uygulanabileceğini söyledi.
Bu yasalar arasında First Lady tarafından onaylanan Take It Down Yasası da yer alıyor. Melania Trump geçen yıl yasalaşmadan önce.
Adalet Bakanlığı yorum talebine yanıt vermedi. FTC yorum yapmaktan kaçındı. XAI, otomatik yanıtın ötesinde bir yorumda bulunmadı.
Musk’un sosyal medya şirketi konuyla ilgili ilk kamuoyu açıklamasını Cumartesi günü resmi X Safety hesabındaki bir gönderiyle yaptı.
Şirket, “Çocuklara Yönelik Cinsel İstismar Materyali (CSAM) de dahil olmak üzere X’teki yasa dışı içeriğe karşı, bu içeriği kaldırarak, hesapları kalıcı olarak askıya alarak ve gerektiğinde yerel yönetimler ve kolluk kuvvetleriyle birlikte çalışarak harekete geçiyoruz” diye yazdı.
Musk şunları yazdı: ayrı gönderi X’te, “Grok’u yasa dışı içerik oluşturmaya teşvik eden veya kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara maruz kalacaktır.”
Ertesi gün, Ethan He adında bir xAI çalışanı bir gönderide yazdı X’te Grok Imagine’in güncellendiğini ancak zararlı müstehcen görüntüler oluşturma yeteneğiyle ilgili herhangi bir değişiklik belirtmediğini belirtti.
Musk ve X’in, çocuklara yönelik cinsel istismarı gösteren gönderiler oluşturan kullanıcıların platformda kalmasına izin verme geçmişi var.
2023’te X, Dom Lucre adlı bir kullanıcının hesabını “Filipinler’de Avustralyalı bir adamın cezai mahkumiyetiyle bağlantılı çocuk istismarı resimlerini” yayınladıktan sonra kısa süreliğine askıya aldı ve ardından yeniden etkinleştirdi. Mashable bildirildi. Musk o sırada X’in Lucre’nin rahatsız edici gönderilerini silmeye ancak sağcı etki sahibini platforma geri döndürmeye karar verdiğini söyledi. Lucre’un şu anda X’te 1,6 milyon takipçisi olan, para kazandıran bir hesabı var.
Sosyal ağların ve yapay zeka şirketlerinin yapay zeka kullanarak içerik denetlemeyi otomatikleştirmesine yardımcı olan Musubi AI’nin CEO’su Tom Quisel, xAI’nin Grok Imagine’in X’e sunulmasında “giriş seviyesi güven ve güvenlik katmanları” bile oluşturmada başarısız olduğunu söyledi.
Quisel, xAI gibi bir şirketin modelinin “çocukları veya kısmi çıplaklığı içeren bir resmi” tespit edip engellemesinin veya kullanıcıların bir fotoğrafın konusunu cinsel açıdan müstehcen kıyafetlere koyma yönündeki isteklerini reddetmesinin kolay olacağını söyledi.
Tartışma X’in trafiğine zarar verecek hiçbir şey yapmadı.
Mobil uygulama trendlerini takip eden Apptopia’ya göre, Grok’un günlük indirilmeleri 2 Ocak’tan bu yana %54 artarken, X’in günlük indirilmeleri son üç günde %25 arttı.
KOL SAATİ: Elon Musk, X’in cezasının ardından AB’yi eleştirdi