Avustralya, yapay zeka kaynaklı çocuk istismarı için kullanılan ‘çıplaklaştırma’ sitelerine yasak getiriyor | Sosyal Medya Haberleri

Watchdog, istismar görüntüleri oluşturmak için kullanılan üç web sitesinin Avustralyalılar tarafından aylık 100.000 ziyaret aldığını söylüyor.

Avustralya’daki internet düzenleme kurumu, Avustralya’daki internet kullanıcılarının, çocukların cinsel istismarına yönelik materyal oluşturmak için yapay zeka kullanan çeşitli web sitelerine erişiminin engellendiğini duyurdu.

e-Güvenlik Komiseri Julie Inman Grant Perşembe günü yaptığı açıklamada, üç “çıplaklaştırma” sitesinin resmi bir uyarının ardından Avustralya’dan çekildiğini söyledi.

Grant’in ofisi, sitelerin Avustralyalılardan ayda yaklaşık 100.000 ziyaret aldığını ve Avustralyalı okul öğrencilerini içeren AI tarafından oluşturulan çocuklara yönelik cinsel istismar görüntülerinin yüksek profilli vakalarında yer aldığını söyledi.

Grant, kullanıcıların yapay zeka kullanarak gerçek kişilerin görüntülerini çıplak göstermelerine olanak tanıyan bu tür “çıplaklaştırma” hizmetlerinin Avustralya okullarında “yıkıcı” bir etki yarattığını söyledi.

Grand, yaptığı açıklamada, “Bu sağlayıcı, hizmetlerinin çocukların cinsel istismarına yönelik materyal oluşturmak için kullanılmasını önlemek için önlemler almayı başaramadığı ve hatta ‘herhangi bir kızı’ soymak gibi özellikler ve ‘kız öğrenci’ imajı oluşturma seçenekleri ve ‘seks modu’ gibi özellikleri pazarladığı için Eylül ayında yaptırım davası açtık” dedi.

Gelişme, Grant’in ofisinin Eylül ayında sitelerin arkasındaki İngiltere merkezli şirkete resmi bir uyarıda bulunmasının ardından geldi; bu uyarı, görsele dayalı suiistimalleri önleyecek güvenlik tedbirleri getirilmemesi halinde 49,5 milyon Avustralya dolarına (32,2 milyon dolar) varan para cezası tehdidinde bulunmuştu.

Grant, yapay zeka modelleri için bir barındırma platformu olan Hugging Face’in, hesap sahiplerinin platformlarının kötüye kullanılması riskini en aza indirecek adımlar atmasını zorunlu kılacak şekilde hizmet şartlarını değiştirmek de dahil olmak üzere Avustralya yasalarına uymak için ayrıca adımlar attığını söyledi.

Avustralya, çocukların çevrimiçi ortamda zarar görmesini önlemek, 16 yaşın altındakiler için sosyal medyayı yasaklamak ve takip etmek ve derin sahte görüntüler oluşturmak için kullanılan uygulamaları çökertmek için küresel çabaların ön sıralarında yer alıyor.

Rıza dışı müstehcen görüntüler oluşturmak için yapay zekanın kullanılması, bir fare tıklamasıyla foto-gerçekçi materyal oluşturabilen platformların hızla çoğaldığı bir ortamda büyüyen bir endişe haline geldi.

ABD merkezli savunuculuk grubu Thorn tarafından geçen yıl gerçekleştirilen bir ankette, 13-20 yaşlarındaki katılımcıların yüzde 10’u, kendileri hakkında derin sahte çıplak görüntüler oluşturulmuş birini tanıdıklarını belirtirken, yüzde 6’sı bu tür bir istismarın doğrudan kurbanı olduklarını söyledi.