Bazı X kullanıcılarının insanları dijital olarak soymak için kullandığı Grok’un yeni ‘görüntü düzenle’ özelliği üzerine şikayetler arttı.
5 Ocak 2026’da yayınlandı
Avrupa Komisyonu, sosyal medya platformu X’te müstehcen, çocuksu içeriğin yayıldığı raporunu kınadı ve materyali “korkunç” ve “iğrenç” olarak nitelendirdi.
Avrupa Birliği dijital ilişkiler sözcüsü Thomas Regnier, X’in yeni özelliğiyle ilgili haftalardır gelen şikayetlerin ardından Pazartesi günü gazetecilere açıklamalarda bulundu. entegre yapay zeka sohbet robotu Grok çocukların tasvir edilmesi de dahil olmak üzere pornografik içerik oluşturmak için kullanılır.
Önerilen Hikayeler
4 öğenin listesilistenin sonu
Regnier, “Grok artık bazı çıktıların çocuksu görüntülerle oluşturulduğu açık cinsel içerik gösteren bir ‘baharatlı mod’ sunuyor” dedi. “Bu baharatlı değil. Bu yasa dışı. Bu korkunç. Bu iğrenç.”
Regnier, Avrupa Komisyonu’nun konuyu “çok ciddi şekilde araştırdığını” ve bu tür içeriklerin “Avrupa’da yeri olmadığını” söyledi.
Bu arada Fransa’nın Paris kentindeki savcılık, X hakkındaki soruşturmayı, Elon Musk’un xAI şirketi tarafından oluşturulan Grok’un çocuk pornografisi oluşturmak ve yaymak için kullanıldığı yönündeki suçlamaları da içerecek şekilde genişletti.
‘Silahlaştırılmayı bekliyorum’
Aralık ayının sonlarında, Grok’taki yeni bir “görüntü düzenleme” özelliği, kullanıcıların platformdaki herhangi bir görüntüyü değiştirmesine olanak tanıdı. Bazı kullanıcılar Grok’tan fotoğraflardaki kadın veya çocukların kıyafetlerini kısmen veya tamamen çıkarmasını istemeye karar verdi.
Grok, kullanıcıların, kadınların fotoğraflarını yarı saydam bikiniler gibi açık kıyafetlerle tasvir edecek şekilde değiştirmeleri yönündeki çok sayıda talebi yerine getirdi.
Cuma günü Grok, “güvenlik önlemlerinde eksiklikler olduğunu” kabul etti ve “bunları acilen düzelttiklerini” söyledi. “CSAM [Child Sexual Abuse Material] yasa dışıdır ve yasaktır” dedi.
Ancak yapay zeka güvenlik uzmanları, platformun bu tür suiistimallerin yakın olduğuna dair aylardır yapılan uyarıları görmezden geldiğini söyledi.
AI izleme grubu The Midas Project’in genel müdürü Tyler Johnston, “Ağustos ayında, xAI’nin görüntü oluşturma işleminin esasen silahlandırılmayı bekleyen bir çıplaklaştırma aracı olduğu konusunda uyardık” dedi. “Temel olarak oynanan şey bu.”
X, hangi Musk 2022’de satın alındıreklamcılık ve içerik denetimi konusundaki politikaları nedeniyle halihazırda AB’nin tepkisiyle karşı karşıya kaldı.
Brüksel, Aralık ayında platforma, AB’nin reklamcılıkta şeffaflığa ilişkin dijital içerik kurallarını ve kullanıcıları doğrulama yöntemlerini ihlal ettiği gerekçesiyle 120 milyon euro (140 milyon dolar) para cezası vermişti.
X hala soruşturma altında AB’nin Dijital Hizmetler Yasası kapsamında Aralık 2023’te başlayan bir soruşturma kapsamında.
Grok’un tarih dışı ve önyargılı içerik üretme de dahil olmak üzere çekişmeli bir geçmişi var. Geçen yıl Musk’un şirketi, Adolf Hitler’i öven sohbet robotunun gönderilerini kaldırdı. Yahudi karşıtı içerikle ilgili şikayetler.