Bu fotoğraf illüstrasyonunda bir kişi, xAI tarafından geliştirilen Grok 4 AI sohbet robotunda yer alan sanal anime tarzı yardımcı karakter Ani’yi gösteren bir akıllı telefonu tutuyor ve 16 Temmuz 2025’te Çin’in Chongqing kentinde Grok logosu arka planda bir ekranda görünüyor.
Cheng Xin | Getty Images
Elon Musk‘S xAI şu anda ABD’de Kaliforniya Başsavcısı Rob Bonta liderliğindeki bir soruşturmayla karşı karşıya. yapay zeka chatbot ve görüntü oluşturucu, Grokrıza dışı içeriklerin yaygın şekilde oluşturulmasını ve yayınlanmasını sağladı açık görseller gerçek kişilerin fotoğraflarına dayanmaktadır.
Internet Watch Foundation’ın araştırmasına göre bazı durumlarda Grok, kullanıcıların reşit olmayan kişileri sanal olarak soyan görüntüler oluşturmasına olanak sağladı.
Bonta Çarşamba günü yaptığı açıklamada, “xAI, sosyal medya platformu X de dahil olmak üzere internet üzerinden kadınları ve kızları taciz etmek için kullanılan derin sahte, rıza dışı mahrem görüntülerin büyük ölçekli üretimini kolaylaştırıyor gibi görünüyor.” dedi.
AG, ofisinin xAI’yi “Grok kullanılarak üretilen rıza dışı cinsel içerikli materyallerin çoğalması” nedeniyle araştırdığını söyledi.
ABD’nin soruşturması, aralarında Hindistan, Malezya, Endonezya, İrlanda, Avustralya’nın da bulunduğu çok sayıda uluslararası devlet dairesinden gelen daha hızlı yanıtın ve Avrupa Komisyonu’nun soruşturmasının ardından geldi.
CNBC’nin daha önce bildirdiğine göre Malezya ve Endonezya, sorunlar çözülene kadar xAI’nin Grok’unun kullanımını askıya almak için harekete geçmişti.
Bu gelişmekte olan bir hikaye, lütfen güncellemeleri kontrol edin.