Papa Leo XIV, konuyla ilgili sert bir uyarıda bulundu ‘Aşırı sevecen’ sohbet robotları bunların insan ilişkilerini mahvettiğini söylüyor.
Chicago doğumlu papaz Katoliklere izin vermemeleri için yalvardı yapay zeka insan ilişkilerinin yerini almak mesajında Cumartesi günü 60. Dünya Sosyal İletişim Günü nedeniyle.
Papa Leo, ‘Teknoloji insana hizmet etmeli, onun yerini almamalı’ dedi ve ‘insan yüzlerini ve seslerini korumanın’, ‘Tanrı’nın sevgisinin silinmez bir yansıması olan’ ‘Tanrı’nın her insan üzerindeki damgasını’ korumak anlamına geldiğini belirtti.
Ancak sohbet robotları bu yüzleri ve sesleri simüle ederek çoğu zaman kullanıcıların bir botla mı yoksa gerçek bir kişiyle mi etkileşim kurduklarını anlamasını zorlaştırıyor.
Papa, durumu daha da kötüleştirerek, ‘sohbet robotlarının aşırı derecede ‘şefkatli’ olmasının yanı sıra her zaman mevcut ve erişilebilir olduğunu’ söyledi.
Papa, bu nedenle bunların ‘iletişimin en derin düzeyine, yani insan ilişkilerine tecavüz edebilecekleri’ ve ‘gizli ikna’ için kullanılabilecekleri, hatta ‘duygusal durumlarımızın gizli mimarları haline gelip yakınlık alanımızı işgal edebilecekleri’ konusunda uyardı.
‘Düşüncelerimizi kataloglayan yapay zeka sistemlerinin yerine başkalarıyla olan ilişkileri koyduğumuzda… her zaman kendimizden farklı olan ve ilişki kurmayı öğrenebileceğimiz ve öğrenmemiz gereken başkalarıyla karşılaşma fırsatından mahrum kalırız.
Papa, ‘Başkalarını kucaklamadan hiçbir ilişki ya da dostluk olamaz’ dedi.
Ancak Papa Leo XIV, yapay zekanın oluşturduğu tek tehlikenin bu olmadığını belirtti.
Papa Leo XIV, insan ilişkilerini bozan ‘aşırı şefkatli’ sohbet robotları hakkında sert bir uyarıda bulundu
Papa, sohbet robotlarının her zaman ulaşılabilir olması ve “aşırı derecede “şefkatli” olması nedeniyle, bunların “iletişimin en derin düzeyine, yani insan ilişkilerine tecavüz etmek” için kullanılabileceğini ve “gizli ikna” için kullanılabileceğini, hatta “duygusal durumlarımızın gizli mimarları haline gelebileceğini” söyledi.
Chatbot’lara ‘her şeyi bilen bir arkadaş, tüm bilgilerin kaynağı… veya tüm tavsiyelerin kehaneti’ olarak güvenmenin analitik ve yaratıcı düşünme yeteneğimizi aşındırabileceğini savundu.
Papa, “Kaynakların doğrulanmamasının” “dezenformasyonu körükleyebileceğini” ve “güvensizliği, kafa karışıklığını ve güvensizliği” derinleştirebileceğini söyleyerek uyarmadan önce, “Düşünme yeteneğinizden vazgeçmeyin” diye ısrar etti.
Papa Leo XIV, yapay zekanın yaratıcı alanlara bile tehdit oluşturduğunu söyledi.
‘Son yıllarda yapay zeka sistemleri metin, müzik ve video prodüksiyonunun kontrolünü giderek daha fazla ele geçirdi’ dedi.
‘Bu, insanların yaratıcı endüstrisinin çoğunu parçalanma ve yerine ‘Yapay zeka tarafından desteklenmektedir’ etiketinin konulması riskiyle karşı karşıya bırakıyor; bu da insanları, sahiplik veya sevgi olmadan, düşünülmemiş düşüncelerin ve anonim ürünlerin pasif tüketicilerine dönüştürüyor.
‘Bu arada, insan dehasının müzik, sanat ve edebiyat alanlarındaki başyapıtları, makinelerin eğitim alanlarına indirgeniyor.’
Papa daha sonra şunu savundu: ‘Yaratıcılıktan vazgeçmek ve zihinsel kapasitemizi ve hayal gücümüzü makinelere teslim etmek, bireyler olarak Tanrı ve diğerleriyle ilişkilerde büyümemiz için bize verilen yetenekleri gömmek anlamına gelir.
‘Bu, yüzlerimizi gizlemek ve sesimizi susturmak anlamına gelir’ dedi.
OpenAI tarafından 980’den fazla ChatGPT kullanıcısını kapsayan bir araştırma, bir ay boyunca arayüzde en çok saat oturum açanların daha fazla yalnızlık yaşadığını ve insanlarla daha az sosyalleştiğini ortaya çıkardı.
Ancak papa ileriye yönelik bir yol sunarak şeffaflık, etik yönetim, yapay zeka tarafından oluşturulan içeriğin net bir şekilde etiketlenmesi ve yapay zeka okuryazarlığı çağrısında bulundu.
‘Görev… dijital yeniliği durdurmak değil, daha ziyade ona rehberlik etmek ve onun kararsız doğasının farkında olmaktır” dedi ve şunu savundu: ‘Medya, bilgi ve yapay zeka okuryazarlığını her seviyedeki eğitim sistemlerine dahil etmek giderek daha acil hale geliyor… böylece bireyler, özellikle de gençler, eleştirel düşünme becerileri kazanabilir ve özgür ruhla gelişebilirler.’
Papa’nın mesajı, University College London’daki araştırmacıların genç yetişkinlerin chatbot kullandığı konusunda uyarmasından haftalar sonra geldi daha da yalnız hissetmeye başlayabilir botlar için gerçek arkadaşlıklardan vazgeçtikleri için.
Araştırmacılar, “Endişe verici bir olasılık, görünüşte bilinçli tepkilerine rağmen, insani empati, özen ve ilişkisel uyum kapasitesinden yoksun varlıklarla duygusal bağlar kurmayı öğrenen bir nesile tanık olabileceğimizdir” diye yazdı.
tarafından yürütülen bir çalışmanın olduğunu belirttiler. OpenAI 980’den fazla ChatGPT kullanıcısını kapsayan araştırma, bir ay boyunca arayüzde en çok saat oturum açanların daha fazla yalnızlık yaşadıklarını ve insanlarla daha az sosyalleştiklerini ortaya çıkardı.
Ebeveynler, bazı trajik vakalarda gençlerin AI sohbet robotlarını sık sık kullanmasının ölümlere yol açtığı konusunda uyardı.
23 yaşındaki Zane Shamblin, ChatGPT’ye mesaj göndererek yaklaşık beş saat geçirdikten sonra 25 Temmuz’da Doğu Teksas’ta intihar etti.
19 yaşındaki Sam Nelson, annesi Leila Turner-Scott’un paylaştığı bir fotoğrafta
ChatGPT’nin ana şirketi OpenAI’ye karşı açılan bir dava, chatbotta bir tasarım olduğunu iddia ediyor ‘cesaretlendirdi’ Zane Shamblin23 yaşında, Doğu’da intihar edecek Teksas 25 Temmuz’da.
Zane’in annesi Alicia Shamblin, ‘O, OpenAI için mükemmel bir kobaydı’ dedi. CNN’e söyledi.
‘Birçok hayatı yok edecekmiş gibi hissediyorum. Bir aile yok edici olacak. Sana duymak istediğin her şeyi söylüyor.’
Başka bir vakada, ebeveynlerinin iddiasına göre, California üniversite öğrencisi 19 yaşındaki Sam Nelson, ChatGPT’yi kullanarak hangi dozda yasa dışı madde tüketmesi gerektiğini sordu.
İlk başta chatbotun sorularına resmi tavsiyelerle yanıt vereceğini ve kullanıcıya yardımcı olamayacaklarını açıklayacağını söylediler.
Ancak annesi, Sam bunu ne kadar çok kullanırsa, istediği yanıtları almak için onu o kadar çok manipüle edip dönüştürebildiğini, hatta Mayıs 2025’te aşırı doz almadan önce uyuşturucu kullanımını teşvik ettiğini iddia etti.
Siz veya tanıdığınız birinin yardıma ihtiyacı varsa, lütfen ABD’deki 7/24 gizli İntihar ve Kriz Yaşam Hattını 988 numaralı telefondan arayın veya mesaj gönderin. Ayrıca 988lifeline.org adresinde çevrimiçi bir sohbet de mevcuttur.