Malezya, rıza dışı cinselleştirilmiş görüntüler nedeniyle çıkan kargaşanın ortasında Grok’u engelledi | Teknoloji Haberleri

Malezya İletişim ve Multimedya Komisyonu, yasağın resmi bildirimlere uyulmamasından sonra geldiğini söyledi.

Malezya, chatbot’un insanların rızaları olmadan cinsel içerikli görüntülerini oluşturma yeteneği üzerine küresel bir kargaşanın ortasında Elon Musk’un yapay zeka modeli Grok’a erişimi engelledi.

Malezya İletişim ve Multimedya Komisyonu (MCMC), sohbet robotunun geliştiricisi xAI ve sosyal medya platformu X’e yasalara uygunluğu sağlamak için güvenlik önlemleri getirmesi talimatını verdikten sonra Grok’u geçici olarak yasakladığını söyledi.

MCMC Pazar günü yaptığı açıklamada, geçen hafta yayınlanan düzenleyici bildirimlere yanıt olarak X’in “öncelikle kullanıcı tarafından başlatılan raporlama mekanizmalarına odaklandığını ve yapay zeka aracının tasarımı ve işleyişinden kaynaklanan doğal riskleri ele almada başarısız olduğunu” söyledi.

“MCMC, zararı önlemek veya yasal uyumu sağlamak için bunun yetersiz olduğunu düşünüyor.”

Malezyalı gözlemcinin duyurusu, Endonezya’nın hem bağımsız bir platform hem de X’te yerleşik bir özellik olarak sunulan chatbot’u resmi olarak yasaklayan dünyanın ilk ülkesi olmasından bir gün sonra geldi.

Grok, son günlerde görüntü oluşturma aracının gerçek insanları rızaları olmadan minimal kıyafetlerle ve cinselleştirilmiş pozlarla tasvir etmek için kullanılmasıyla ilgili tartışmalara saplandı.

Bazıları reşit olmayanları da içeren cinsel içerikli deepfake’lerin yayılması, aralarında ABD, İngiltere, Almanya, Fransa ve Avustralya’nın da bulunduğu çok sayıda ülkedeki yetkililerin kınamalarına ve eylem çağrılarına yol açtı.

xAI başlangıçta Al Jazeera’den gelen yorum talebine otomatik bir yanıtla yanıt verdi: “Eski Medya Yalanları.”

Daha sonra bir sözcü, Al Jazeera’yi X’in daha önceki bir açıklamasına yönlendirdi; bu açıklama, platformun çocuklara yönelik cinsel istismar materyalleri de dahil olmak üzere yasa dışı içeriğe karşı harekete geçtiğini söyledi.

Açıklamada, “Grok’u yasa dışı içerik oluşturmaya teşvik eden veya kullanan herkes, yasa dışı içerik yüklemiş gibi aynı sonuçlara maruz kalacak” denildi.

Grok geçen hafta, tartışmayı bastırmak amacıyla X üzerindeki görsel oluşturma aracının kullanımını ücretli abonelerle sınırlamaya başladı.

Avrupalı ​​yetkililer ve kampanyacılar bu harekete olumsuz tepki gösterdiler ve bu hamlenin, rıza dışı görüntülerin kolaylaştırılmasına ilişkin temel sorunun çözümünde çok az işe yaradığını söylediler.