- Birleşik Krallık’ın veri gözlemcisi, Grok’un rıza dışı derin sahte görüntüler oluşturması nedeniyle X ve xAI’yi resmi olarak araştırıyor
- Grok’un, küçükleri tasvir ediyor gibi görünenler de dahil olmak üzere milyonlarca müstehcen yapay zeka görüntüsü oluşturduğu bildirildi
- Soruşturma, olası GDPR ihlallerini, güvenlik önlemlerinin eksikliğini araştırıyor
Birleşik Krallık’ın veri koruma düzenleyicisi, Grok AI’nin rapor edilmesinin ardından X ve xAI hakkında kapsamlı bir soruşturma başlattı. sohbet robotu üretiyordu ahlaksız deepfake gerçek insanların görselleri onların rızası olmadan. Bilgi Komiserliği Ofisi, şirketlerin GDPR’yi ihlal etti Grok’un, bazıları çocukları tasvir ediyor gibi görünen cinsel içerikli yapay zeka görüntüleri oluşturmasına ve paylaşmasına izin vererek.
ICO’nun düzenleyici risk ve inovasyondan sorumlu genel müdürü William Malcolm yaptığı açıklamada, “Grok hakkındaki raporlar, insanların kişisel verilerinin, onların bilgisi veya rızası olmadan mahrem veya cinselleştirilmiş görüntüler oluşturmak için nasıl kullanıldığına ve bunu önlemek için gerekli önlemlerin alınıp alınmadığına ilişkin derin rahatsız edici soruları gündeme getiriyor.” dedi.
Araştırmacılar yalnızca kullanıcıların ne yaptığına değil, aynı zamanda X ve xAI’nin neyi engelleyemediğine de bakıyor. Bu hareket, deepfake ve çocuk istismarı görüntülerinin dağıtıldığı iddiasıyla ilgili paralel bir ceza soruşturması kapsamında Fransız savcıların geçen hafta X’in Paris ofisine düzenlediği baskının ardından geldi.
Bu olayın boyutu, birkaç kötü isteğin münferit bir vakası olarak göz ardı edilmesini imkansız hale getirdi. Araştırmacılar, Grok’un iki haftadan kısa bir süre içinde yaklaşık üç milyon cinselleştirilmiş görsel ürettiğini tahmin ediyor; bunların arasında on binlercesi reşit olmayanları tasvir ediyor gibi görünüyor. GDPR’nin ceza yapısı, risklere dair bir ipucu sunuyor: ihlaller, 17,5 milyon £’a veya küresel cironun %4’üne varan para cezalarıyla sonuçlanabilir.
Büyük sorun
X ve xAI, ayrıntılar sınırlı olsa da daha güçlü koruma önlemleri uyguladıklarında ısrar etti. X yakın zamanda belirli görüntü oluşturma yollarını engellemek ve reşit olmayanların yer aldığı değiştirilmiş fotoğrafların oluşturulmasını sınırlamak için yeni önlemler duyurdu. Ancak bu tür içerikler, özellikle de X kadar büyük bir platformda dolaşıma girdiğinde, tamamen silinmesi neredeyse imkansız hale geliyor.
Politikacılar artık sistemsel mevzuat değişikliği çağrısında bulunuyor. İşçi Partisi’nden Anneliese Dodds liderliğindeki bir grup milletvekili, hükümeti, geliştiricilerin araçları halka sunmadan önce kapsamlı risk değerlendirmeleri yapmalarını gerektiren yapay zeka yasasını çıkarmaya çağırdı.
Yapay zekayla görüntü oluşturma yaygınlaştıkça, gerçek ve uydurma içerik arasındaki çizgi bulanıklaşıyor. Bu değişim sadece ünlüleri veya kamuoyuna mal olmuş kişileri değil, sosyal medya kullanan herkesi etkiliyor. Grok gibi araçlar sıradan bir selfieden ikna edici açık görüntüler üretebildiğinde, kişisel fotoğrafları paylaşmanın riskleri değişiyor.
Gizlilik, korunması daha zor bir hale geliyor. Teknoloji toplumu geride bıraktığında ne kadar dikkatli olduğunuzun bir önemi yok. Dünya çapındaki düzenleyiciler buna ayak uydurmak için çabalıyorlar. Birleşik Krallık’ın X ve xAI ile ilgili soruşturması aylar sürebilir, ancak bunun AI platformlarının nasıl davranması beklendiğini etkilemesi muhtemeldir.
Tasarım gereği güvenlik gereksinimlerinin daha güçlü ve uygulanabilir hale getirilmesi muhtemeldir. Ayrıca şirketlerin üzerinde, modellerinin nasıl eğitildiği ve hangi korkulukların mevcut olduğu konusunda şeffaflık sağlama konusunda daha fazla baskı olacak.
Birleşik Krallık’ın soruşturması, düzenleyicilerin kamu güvenliğine yönelik “hızlı hareket et ve işleri boz” yaklaşımı fikrine karşı sabırlarını yitirdiklerine işaret ediyor. İnsanların hayatlarını manipüle edebilen yapay zeka söz konusu olduğunda, gerçek değişime yönelik bir ivme var. Yapay zeka birinin imajını çarpıtmayı kolaylaştırdığında, koruma yükü halkın değil geliştiricilerin üzerindedir.
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.
Her bütçeye uygun en iyi iş dizüstü bilgisayarları