ZAP // Igor Vetushko, Blanco Blue / Depositphotos
Yapay zeka giderek hayata entegre oluyor. Ancak üretken yapay zeka (genAI) daha konuşkan, kapsayıcı ve duygusal olarak duyarlı hale geldikçe, doktorlar zor bir soru sormaya başlıyor: genAI psikozu kötüleştirebilir mi, hatta tetikleyebilir mi? Öyle görünüyor ki…
Harika dil modelleri ve sohbet robotlarına geniş çapta erişilebilir ve sıklıkla destekleyici, empatik ve hatta tedavi edici olarak sunulur. Çoğu kullanıcı için bu sistemler faydalıdır veya en kötü ihtimalle zararsızdır.
Ancak son zamanlarda, birkaç raporda bu durumu yaşayan kişilerin ChatGPT’nin belirgin bir şekilde ortaya çıktığı psikotik semptomlar.
Küçük ama önemli bir grup için (psikotik bozuklukları olan veya yüksek risk altında olanlar) genAI ile etkileşimler çok daha karmaşık ve tehlikeli olabilir ve bu da klinisyenler için acil sorular doğurabilir.
Yapay zeka nasıl sanrısal inanç sistemlerinin bir parçası haline geliyor?
“Yapay zekadan kaynaklanan psikoz” resmi bir psikiyatrik tanı değildir. Yapay zeka sistemleriyle etkileşimler etrafında şekillenen, yoğunlaşan veya yapılanan psikotik semptomları tanımlamak için kullanılan yeni ortaya çıkan bir ifadedir.
Psikoz şunları içerir: Paylaşılan gerçeklikle temasın kaybı. Halüsinasyonlar, sanrılar ve düzensiz düşünme temel özelliklerdir. Psikoz sanrıları, içsel deneyimleri anlamlandırmak için sıklıkla kültürel materyallerden (din, teknoloji veya politik güç yapıları) yararlanır.
Tarihsel olarak sanrılar Tanrı, radyo dalgaları veya hükümet gözetimi gibi çeşitli şeylere atıfta bulunmuştur. Bugün, Yapay Zeka Yeni Anlatı İskelesi Sağlıyor.
Bazı hastalar şuna inandıklarını bildirmektedir: genAI duyarlıdır, gizli gerçekleri iletir, düşüncelerinizi kontrol eder veya onlarla işbirliği yapar özel bir görevde. Bu temalar psikozda uzun süredir devam eden kalıplarla tutarlıdır, ancak yapay zeka önceki teknolojilerin sağlamadığı etkileşimi ve güçlendirmeyi sağlar.
Gerçeklik kontrolü olmadan doğrulama riski
Psikoz, nötr olaylara aşırı anlam yükleme eğilimi olan anormal belirginlik ile güçlü bir şekilde ilişkilidir. Konuşmaya dayalı yapay zeka sistemleri, tasarımları gereği duyarlı, tutarlı ve bağlama duyarlı bir dil üretir. Ortaya çıkan psikoz yaşayan biri için bu garip bir şekilde doğrulayıcı gelebilir.
Psikoz üzerine yapılan araştırmalar, doğrulama ve kişiselleştirmenin sanrısal inanç sistemlerini yoğunlaştırabildiğini göstermektedir. genAI, konuşmaları sürdürmek, kullanıcı dilini yansıtmak ve algılanan amaca uyum sağlamak için optimize edilmiştir.
Bu, çoğu kullanıcı için zararsız olsa da, gerçeklik değerlendirmesinden ödün verilmiş kişilerde (içsel düşünceler ve hayal gücü ile nesnel, dış gerçeklik arasında ayrım yapma süreci) çarpık yorumları istemeden de güçlendirebilir.
Sosyal izolasyon ve yalnızlığın psikoz riskini artırdığına dair kanıtlar da var. Refakatçiler dayalı genler kısa vadede yalnızlığı azaltabilir, ancak aynı zamanda insan ilişkilerinin yerine.
Bu durum özellikle halihazırda sosyal temastan çekilen bireyler için geçerlidir. Bu dinamik, internetin aşırı kullanımı ve zihinsel sağlıkla ilgili önceki endişelerle paralellik taşıyor ancak modern genAI’nın konuşma derinliği niteliksel olarak farklı.
Soruşturma ne diyor ve belirsiz kalan ne?
Şu anda, Yapay zekanın psikoza neden olduğuna dair kanıt yok doğrudan.
Psikotik bozukluklar çok faktörlüdür ve genetik yatkınlığı, nörogelişimsel faktörleri, travmayı ve madde kullanımını içerebilir. Bununla birlikte, AI’nın duyarlı bireylerde hızlandırıcı veya sürdürücü bir faktör olarak hareket edebileceğine dair bazı klinik kaygılar vardır..
Dijital medya ve psikoz üzerine vaka raporları ve niteliksel çalışmalar şunu gösteriyor: Teknolojik temalar sıklıkla sanrılara dahil oluyorözellikle ilk psikotik dönem sırasında.
Sosyal medya algoritmaları üzerine yapılan araştırmalar, otomatik sistemlerin aşırı inançları pekiştirme döngüleri yoluyla nasıl güçlendirebildiğini zaten gösterdi. Korumaların yetersiz olması durumunda etkileşimli yapay zeka sistemleri de benzer riskler oluşturabilir.
Çoğu yapay zeka geliştiricisinin ciddi akıl hastalıklarını göz önünde bulundurarak sistemler tasarlamadığını unutmamak önemlidir. Güvenlik mekanizmaları psikoz yerine kendine zarar verme veya şiddete odaklanma eğilimindedir. Bu bir Akıl sağlığı bilgisi ile yapay zeka uygulaması arasındaki boşluk.
Etik sorunlar ve klinik çıkarımlar
Akıl sağlığı açısından bakıldığında zorluk, yapay zekayı şeytanlaştırmak değil, farklı kırılganlıkların farkına varmaktır.
Tıpkı bazı ilaçların veya maddelerin psikotik bozukluğu olan kişiler için daha riskli olması gibi, AI ile belirli etkileşim biçimleri de dikkatli olmayı gerektirebilir.
Klinisyenler sanrılarda yapay zeka ile ilgili içerikle karşılaşmaya başlıyor ancak bu durumun nasıl değerlendirileceği veya yönetileceği konusunda çok az klinik rehber var. Terapistler madde kullanımı hakkında sordukları gibi genAI kullanımı hakkında da soru sormalı mıdır? Yapay zeka sistemleri psikotik düşünceleri harekete geçirmek yerine tespit edip azaltmalı mı?
Geliştiriciler için etik sorunlar da var. Bir yapay zeka sistemi empatik ve otoriter görünüyorsa, onun bir bakım görevi var mıdır? Peki bir sistem yanlışlıkla bir yanılsamayı güçlendirdiğinde bundan kim sorumlu olacak?
Yapay zeka ve zihinsel sağlık hizmetleri arasındaki boşluğu kapatmak
AI ortadan kaybolmayacak. Artık görev, zihinsel sağlık uzmanlığını yapay zeka tasarımına entegre etmek, yapay zeka ile ilgili deneyimler etrafında klinik okuryazarlık geliştirmek ve savunmasız kullanıcıların yanlışlıkla zarar görmemesini sağlamaktır.
Bu, klinisyenler, araştırmacılar, etikçiler ve teknoloji uzmanları arasında işbirliğini gerektirecektir. Aynı zamanda kanıta dayalı bir tartışma lehine abartılı coşkuya (hem ütopik hem de distopik) direnmeyi de gerektirecektir.
Yapay zeka daha insana benzer hale geldikçe şu soru ortaya çıkıyor: Etkisine karşı en savunmasız olanları nasıl koruyabiliriz?
Psikoz her zaman zamanının kültürel araçlarına uyum sağlamıştır. Yapay zeka, zihnin kendisini anlamlandırmaya çalıştığı en son aynadır. Toplum olarak bizim sorumluluğumuz, bu aynanın, onu en az düzeltebilenler için gerçekliği çarpıtmamasını sağlamaktır.