Haberleşme ve Dijital Bakanlığı Grok’un taklit algılama özelliğinin veya yapay zekanın sosyal medya platformlarında kötüye kullanıldığı iddialarının takibi X. Son zamanlarda Elon Musk tarafından oluşturulan yapay zeka sistemi, hassas kişisel fotoğrafların sahibinin izni olmadan manipülasyonu da dahil olmak üzere ahlaka aykırı içerik üretmek ve yaymak için kullanıldı.
İletişim ve Teknoloji Bakanlığı Dijital Alan Denetimi Genel Müdürü Alexander Sabar, Elektronik Sistem Operatörlerinin (PSE) kullanıcılar için etkili bir koruma mekanizmasına sahip olması gerektiğini vurguladı. Bu adımlar arasında içerik denetleme sisteminin güçlendirilmesi, ahlaka aykırı deepfake’lerin oluşturulmasının önlenmesi ve ayrıca gizlilik ve kişisel imaj hakları ihlallerine ilişkin raporların hızlı bir şekilde ele alınmasına yönelik prosedürler yer alıyor.
Alexander, 7 Ocak 2026 Çarşamba günü yaptığı yazılı açıklamada, “Her PSE, sağladığı teknolojinin mahremiyeti ihlal etme, cinsel istismar veya birinin onuruna zarar verme aracı haline gelmemesini sağlamakla yükümlüdür” dedi.
Endonezya yasa ve yönetmeliklerine uyma yükümlülüğünün Endonezya topraklarında faaliyet gösteren tüm PSE’lerin doğasında bulunduğunu hatırlattı. İletişim ve Teknoloji Bakanlığı, uyumsuzluk veya işbirlikçi olmayan davranışlar tespit ederse Grok AI hizmetlerine ve X platformuna erişimin sonlandırılmasına kadar uzanan idari yaptırımlar uygulayabilir.
Sosyal medya X’te yer alan Grok sistemi, taklit kullanmanın etiği konusunda tartışmalara yol açtı. Birçok X kullanıcısı Grok’tan yazılı talimatlar yoluyla belirli fotoğrafları değiştirmesini istedi. Bunlardan biri bikini giyen birinin fotoğrafını düzenleme komutudur. Hatta fotoğrafı yükleyen kullanıcı başlangıçta kapalı kıyafetler giyiyordu.
İletişim Bakanlığı’nın ilk araştırmasının sonuçları, Grok’un henüz fotoğrafa dayalı pornografik içerik üretimini engelleyecek açık ve yeterli düzenlemelere sahip olmadığını gösteriyor. Alexander, “Bu, vatandaşların mahremiyet ve kişisel imaj haklarının ciddi şekilde ihlal edilmesine neden olma riski taşıyor” dedi.
Ona göre bu olgu sadece dijital manipülasyonla ilgili değil, aynı zamanda psikolojik, sosyal ve itibar kaybına yol açabilecek şekilde bireylerin görsel kimlikleri üzerindeki kontrolünü gasp etme eylemlerini de içeriyor.
Ayrıca, pornografik içerik ürettiği ve/veya dağıttığı veya kişisel görüntüleri haksız olarak değiştirdiği kanıtlanan AI hizmet sağlayıcıları ve kullanıcılarının, geçerli yasal hükümler uyarınca idari ve/veya cezai yaptırımlara tabi tutulabileceğini vurguladı.
Alexander, fotoğraf manipülasyonu, ahlak dışı deepfake veya kendi imajını ihlal etme mağduru kişilerin, kolluk kuvvetlerine bildirimde bulunmak ve İletişim ve Teknoloji Bakanlığı’na şikayette bulunmak da dahil olmak üzere yasal düzenlemelerde mevcut mekanizmalar aracılığıyla yasal yollara başvurabileceğini söyledi.
Pornografik içeriklere ilişkin düzenlemeler, 2 Ocak 2026 tarihinde yürürlüğe giren 2023 sayılı 1 Sayılı Ceza Kanunu’nun (KUHP) 172. ve 407. maddelerinde yer alıyor. 172. maddesinde pornografi, ahlak kurallarına aykırı, müstehcenlik veya cinsel istismar içeren medya olarak tanımlanırken, 407. maddesinde en az 6 (altı) ay, en çok 10 (on) ay hapis cezası öngörülüyor. hükümlerine göre yıl veya para cezası.
Alexander, “Tüm tarafları yapay zeka teknolojisini sorumlu bir şekilde kullanmaya çağırıyoruz. Dijital alan kanunsuz bir alan değildir, saygı duyulması ve korunması gereken her vatandaşın mahremiyeti ve kişisel imaj hakkı vardır” dedi.