AB’nin Dijital Pazarlar Yasası uyarınca Apple’ın, geliştiricilerin müşterilerini App Store dışındaki alternatif teklifler konusunda özgürce bilgilendirmesine izin vermesi gerekiyor.
Gabby Jones | Getty Images aracılığıyla Bloomberg
Elma Ve Google Play uygulama mağazaları, insanların fotoğraflarını çekebilen ve çıplak görüntülerini oluşturmak için yapay zekayı kullanan düzinelerce “çıplaklaştırma” uygulamasına ev sahipliği yapıyor. rapor Salı günü bir endüstri gözlemcisinden.
Tech Transparency Project tarafından Ocak ayında iki uygulama mağazası üzerinde yapılan incelemede, kuruluşun yalnızca CNBC ile paylaşılan raporuna göre, Google Play’de 55 ve Apple App Store’da 47 nudify uygulaması bulundu.
Geçen hafta TPP ve CNBC ile temasa geçen bir Apple sözcüsü Pazartesi günü şirketin raporda belirtilen 28 uygulamayı kaldırdığını söyledi. iPhone üreticisi, diğer uygulamaların geliştiricilerini de, kural ihlallerine çözüm getirilmemesi halinde Apple App Store’dan kaldırılma riskiyle karşı karşıya kalacakları konusunda uyardığını söyledi.
Şirketin bir sözcüsü CNBC’ye verdiği demeçte, Apple tarafından kaldırılan uygulamalardan ikisinin, geliştiricilerin kılavuz kaygılarını gideren yeni sürümleri yeniden göndermesinin ardından mağazaya geri yüklendiğini söyledi.
TTP, Apple ve Google hakkındaki raporunda şöyle yazdı: “Her iki şirket de kendilerini kullanıcıların güvenliğine ve emniyetine adadıklarını söylüyor ancak bir kadının masum bir fotoğrafını taciz edici, cinselleştirilmiş bir görüntüye dönüştürebilecek bir dizi uygulama barındırıyorlar.”
TTP Pazartesi günü CNBC’ye yaptığı açıklamada, Apple App Store’da yapılan incelemede teknoloji şirketi tarafından yalnızca 24 uygulamanın kaldırıldığının tespit edildiğini söyledi.
Bir Google sözcüsü CNBC’ye, şirketin raporda adı geçen birçok uygulamayı uygulama mağazasının politikalarını ihlal ettiği gerekçesiyle askıya aldığını ve politika ihlalleri bildirildiğinde araştırdığını söyledi. Şirket, TTP tarafından tanımlanan uygulamalara ilişkin soruşturmanın devam etmesi nedeniyle, özellikle kaç uygulamayı kaldırdığını söylemeyi reddetti.
Rapor sonra gelir Elon MuskxAI, bu ayın başlarında Grok AI aracının kullanıcıdan gelen taleplere yanıt vermesiyle tepkiyle karşı karşıya kaldı. cinselleştirilmiş fotoğraflar oluşturmak kadın ve çocukların.
Gözlemci kuruluş, uygulamaları bulmak için “çıplaklaştırma” ve “soyunma” gibi terimleri arayarak bu uygulamaları iki mağazada belirledi ve bu uygulamaları, tamamen giyinik kadınların yapay zeka tarafından oluşturulan görüntülerini kullanarak test etti. Proje iki tür uygulamayı test etti: Yapay zekayı kullanarak kıyafetsiz kadınların görüntülerini işleyen uygulamalar ve orijinal kadın yüzlerini çıplak kadın görüntülerinin üzerine yerleştiren “yüz değiştirme” uygulamaları.
TPP’nin yöneticisi Katie Paul, CNBC’ye “Bunların sadece ‘kıyafet değiştirme’ uygulamaları olmadığı çok açık” dedi. “Bunlar kesinlikle insanların rızası olmadan cinselleştirilmesi için tasarlandı.”
CNBC araştırdı nudify uygulamalarının tehlikeleri ve web siteleri Eylül ayında yayınlanan bir raporda yer alıyor.
CNBC, soruşturmasında, Minnesota’da kamuya açık sosyal medya fotoğrafları, rızaları olmadan cinselleştirilmiş derin sahtekarlıklar oluşturmak için bir çıplaklaştırma hizmetine yüklenen bir grup kadını takip etti. Kadınların tamamı yetişkin olduğu ve pornografik deepfake’leri oluşturan adamın bunları mutlaka dağıtmadığı için görünürde herhangi bir suç işlenmedi. 80’in üzerinde kadın mağdur edildi.
CNBC, yeni yapay zeka modellerinin, TTP’nin bulduğu gibi kullanıcı dostu uygulamalarda bir araya getirilen hizmetlerle derin sahte çıplaklık ve müstehcen içerik oluşturmayı her zamankinden daha kolay hale getirdiğini buldu.
TPP’ye göre incelenen uygulamalardan 14’ü Çin merkezliydi. Paul bunun ekstra bir güvenlik endişesi eklediğini söyledi.
Paul, “Çin’in veri saklama yasaları, Çin hükümetinin Çin’in herhangi bir yerindeki herhangi bir şirketten veri alma hakkına sahip olduğu anlamına geliyor” dedi. “Yani eğer birisi sizin derin sahte çıplak fotoğraflarınızı çekiyorsa, bu uygulamalardan birini kullanıyorsa bunlar artık Çin hükümetinin elindedir.”
xAI’nin kendi çıplaklaştırma yetenekleri üzerinde inceleme yapmasının ardından Grok’un yapay zekası, “güvenliklerdeki eksiklikleri” “acilen düzelttiğini” kabul etti. cevap vermek bir X kullanıcısına.
Pazartesi günü, Avrupa Komisyonu bir anlaşma başlattığını söyledi. soruşturma Grok’un müstehcen içerik yayması nedeniyle X’e.
CNBC’nin yorum talebine yanıt olarak xAI, “Eski Medya Yalanları” yazan otomatik bir yanıt gönderdi.
Joe Raedle | Getty Images
Ağustos ayında, Ulusal Başsavcılar Birliği Apple Pay ve Google Pay dahil olmak üzere ödeme platformlarına mektup yazarak rıza dışı mahrem görüntüler oluşturan hizmetlerle ilgili endişelerini dile getirdi ve platformların bu tür hizmetleri ağlarından kaldırmasını talep etti.
Oregon, New Mexico ve Massachusetts’ten Demokrat senatörler Apple ve Google’dan şunları istedi: X’i uygulama mağazalarından kaldırın bu ay yazdığı bir mektupta, rıza dışı cinselleştirilmiş görsellerin kitlesel olarak üretilmesinin mağazaların dağıtım şartlarını ihlal ettiğini söylüyor.
Google Play Geliştirici Politika Merkezi, platformun “insanları soyduğunu veya kıyafetlerin içini gördüğünü iddia eden uygulamalara” izin vermediğini söylüyor. şaka veya eğlence uygulaması olarak etiketlenmiş olsa bile.” Apple’ın uygulama inceleme yönergeleri, “Açık bir şekilde cinsel veya pornografik.”
Uygulama analiz firması AppMagic’e atıfta bulunulan raporda, TTP’nin tespit edilen uygulamalarının dünya çapında toplu olarak 700 milyondan fazla indirildiği ve 117 milyon dolar gelir elde ettiği belirtiliyor. Hem Apple hem de Google, mağazaları aracılığıyla dağıtılan uygulamalardan elde edilen gelirden pay alıyor.
Paul, “İnsanları rıza dışı çıplak görüntülerden ve rıza dışı pornografiden korumak için tasarlanan kendi politikalarına bağlı kalmamaları, kendilerini nasıl güvenilir uygulama platformları olarak sunabilecekleri konusunda birçok soruyu gündeme getiriyor” dedi.
— CNBC’den Jonathan Vanian ve Katie Tarasov bu rapora katkıda bulundular