Musk’un oğlu Romulus’un annesi Ashley St Clair, Grok chatbot tarafından oluşturulan sahte yapay zeka görüntülerinin neden olduğu ‘acı ve zihinsel sıkıntı’ nedeniyle dava açtı.
Elon Musk’un çocuklarından birinin annesi, Grok chatbot’un kullanıcılara izin verdiğini söyleyerek yapay zeka şirketine dava açıyor cinsel istismara yönelik derin sahte görüntüler oluşturmak onun aşağılanmasına ve duygusal sıkıntısına neden olan şeyler.
Dava, “Kaliforniya Başsavcısı” General Rob Bonta’nın Musk’un xAI şirketine, Grok tarafından üretilen akıllı telefonların oluşturulmasını ve dağıtımını durdurmasını talep eden bir durdurma ve vazgeçme mektubu göndermesinden hemen önce açılmıştı. rıza dışı cinselleştirilmiş görüntüler.
Önerilen Hikayeler
4 öğenin listesilistenin sonu
Bonta Cuma günü yaptığı açıklamada, “Bu materyali ayrıntılandıran -bazen kadınları ve çocukları cinsel faaliyette bulunanları tasvir eden- çığ gibi büyüyen raporlar şok edicidir ve ofisimin belirlediği gibi potansiyel olarak yasa dışıdır” dedi.
Yazar ve siyasi yorumcu Ashley St Clair, perşembe günü New York City’de xAI’ye karşı açılan bir davada kendisinin Grok tarafından oluşturulan cinselleştirilmiş deepfake görüntülerin kurbanı olduğunu iddia ediyor.
Musk’un 16 aylık oğlu Romulus’un annesi St Clair, görüntüleri geçen yıl görünmeye başladıktan sonra Musk’ın Grok’un da bulunduğu X sosyal medya platformuna bildirdiğini ve bunların kaldırılmasını istediğini söyledi.
Platform, görüntülerin politikalarını ihlal etmediğini söyledi. Daha sonra onun rızası olmadan görsellerinin kullanılmasına veya değiştirilmesine izin vermeyeceğine söz verdi. Daha sonra sosyal platformun premium X aboneliğini ve doğrulama onay işaretini kaldırarak ona misilleme yaptığını ve onun aşağılayıcı sahte görsellerine izin vermeye devam ettiğini söyledi.
St Clair, davaya eklenen bir belgede, “xAI’nin dijital olarak değiştirilmiş bu görselleri oluşturma ve dağıtmadaki rolünün bir sonucu olarak ciddi acı ve zihinsel sıkıntı yaşadım ve çekmeye devam ediyorum” dedi.
“Aşağılandım ve Grok bu görüntüleri yaratmaya devam ettiği sürece bu kabusun asla durmayacağını hissediyorum” dedi.
‘Kamuoyunun sıkıntısı’
Perşembe günü, xAI avukatları, St Clair’e, Teksas’taki federal mahkemede şirkete karşı dava açılmasını gerektiren xAI kullanıcı sözleşmesinin şartlarını ihlal ettiği iddiasıyla Kuzey Teksas Bölgesi’ndeki federal mahkemede karşı dava açtı. Ona karşı açıklanmayan bir parasal karar verilmesini istiyor.
St Clair’in avukatı Carrie Goldberg, karşı davayı daha önce hiçbir sanığın görmediği “sarsıcı” bir hareket olarak nitelendirdi.
Goldberg yaptığı açıklamada, “Bayan St Clair, New York’taki forumunu güçlü bir şekilde savunacak” dedi.
“Fakat açıkçası, herhangi bir yargı alanı Bayan St Clair’in kızların ve kadınların rızası olmadan müstehcen görüntülerini üreten xAI’nin kamuya yönelik bir baş belası olduğu ve makul ölçüde güvenli olmayan bir ürün olduğu yönündeki iddialarının ciddiyetini kabul edecektir.”
Bu hafta başında ABD medyasına verdiği röportajda St Clair, Grok’la olan mücadelesinin “sadece benimle ilgili olmadığını” söyledi.
CNN’e şunları söyledi: “Bu, kadınları ve çocukları herhangi bir etki yaratmadan büyük ölçekte üretebilecek ve istismar edebilecek sistemler, yapay zeka sistemleri inşa etmekle ilgili. Ve şu anda olup bitenlerin gerçekten hiçbir sonucu yok” dedi.
“Diyorlar ki ‘Yasadışı olan yerde yasa dışı hale getireceğiz’. Bu yok [of] tüm ahlak ve tahmin edin, eğer zararın üstüne güvenliği eklemek zorunda kalırsanız, bu hiç de güvenlik değildir. Bu sadece hasar kontrolüdür” dedi.
Musk’un Grok’u halihazırda inceleme altında ve bir sorunla karşı karşıya uluslararası tepki Birleşik Krallık, Avrupa Birliği ve Hindistan, Endonezya, Malezya, Filipinler ve Japonya dahil olmak üzere diğer yargı bölgelerinde açık deepfake görüntülerin oluşturulması için.
Japon yetkililer Cuma günü kendilerinin de Grok konusunda X’i araştırdıklarını ve uygunsuz görüntülerin oluşmasını önlemek için tüm seçeneklerin değerlendirildiğini söyledi.