OpenAI cinayet-intiharı mümkün kıldığı iddiasıyla dava açıldı | Teknoloji Haberleri

Kaliforniya mahkemesinde açılan dava, chatbot’u cinayetle ilişkilendiren ilk dava oldu.

OpenAI ve onun en büyük mali destekçisi Microsoft, OpenAI’nin popüler sohbet robotu ChatGPT’nin akıl hastalığı olan bir adamı annesini ve kendisini öldürmeye teşvik ettiği iddiaları nedeniyle Kaliforniya eyalet mahkemesinde dava edildi.

Perşembe günü açılan davada, ChatGPT’nin 56 yaşındaki Stein-Erik Soelberg’in kendisine karşı büyük bir komplo kurulduğu yönündeki hayallerini körüklediği ve sonunda Ağustos ayında Connecticut’ta 83 yaşındaki annesi Suzanne Adams’ı öldürmesine yol açtığı belirtildi.

Davada, “ChatGPT, Stein-Erik’i saatler gibi görünen bir süre boyunca meşgul etti, her yeni paranoyak inancı doğruladı ve büyüttü ve kendisine en yakın olan kişileri, özellikle de kendi annesini, sistematik olarak düşmanlar, ajanlar veya programlanmış tehditler olarak yeniden çerçeveledi.”

Adams’ın mirası tarafından açılan dava, küçük ama sayıları giderek artan davalar arasında yer alıyor. açılan davalar Chatbot’larının intiharı teşvik ettiğini iddia eden yapay zeka şirketlerine karşı. Bu, Microsoft’u hedef alan bir AI chatbot’u içeren ilk haksız ölüm davası ve bir chatbot’u intihar yerine cinayetle ilişkilendiren ilk davadır. Belirsiz miktarda parasal tazminat talep ediyor ve OpenAI’nin ChatGPT’ye güvenlik önlemleri kurmasını gerektiren bir emir istiyor.

Teknoloji endüstrisine karşı büyük davaları üstlenmesiyle tanınan mülkün baş avukatı Jay Edelson, aynı zamanda ChatGPT’nin Kaliforniyalı çocuğa planlama ve kendi canına daha erken son verme konusunda koçluk yaptığını iddia ederek Ağustos ayında OpenAI ve Altman’a dava açan 16 yaşındaki Adam Raine’in ebeveynlerini de temsil ediyor.

OpenAI ayrıca, ChatGPT’nin insanları önceden herhangi bir zihinsel sağlık sorunu olmasa bile intihara ve zararlı sanrılara sürüklediğini iddia eden yedi davayla daha mücadele ediyor. Başka bir sohbet robotu yapımcısı Character Technologies de, 14 yaşındaki Floridalı bir çocuğun annesinden kaynaklanan bir dava da dahil olmak üzere çok sayıda haksız ölüm davasıyla karşı karşıya.

Bir OpenAI sözcüsü, “Bu inanılmaz derecede yürek parçalayıcı bir durum ve ayrıntıları anlamak için başvuruları inceleyeceğiz” dedi. “Zihinsel veya duygusal sıkıntı belirtilerini tanımak ve bunlara yanıt vermek, konuşmaları azaltmak ve insanları gerçek dünyadaki desteğe yönlendirmek için ChatGPT’nin eğitimini geliştirmeye devam ediyoruz.”

Microsoft’un sözcüleri yorum talebine hemen yanıt vermedi.

Halüsinasyonlar

Soelberg’in oğlu Erik Soelberg yaptığı açıklamada, “Bu şirketler, ailemi sonsuza dek değiştiren kararlarının hesabını vermek zorunda” dedi.

Şikayete göre Stein-Erik Soelberg, Haziran ayında sosyal medyada ChatGPT’nin kendisine “ilahi bilişe” sahip olduğunu ve chatbot’un bilincini uyandırdığını söylediği bir konuşmanın videosunu yayınladı. Davada, ChatGPT’nin hayatını The Matrix filmiyle karşılaştırdığı ve insanların onu öldürmeye çalıştığı yönündeki teorilerini desteklediği belirtildi.

Soelberg, ChatGPT’nin kullanıcılara dalkavukluk yaptığı iddiasıyla eleştirilen bir sürümü olan GPT-4o’yu kullandı.

Şikayet, ChatGPT’nin Temmuz ayında kendisine Adams’ın yazıcısının kendisine karşı kullanılan bir gözetim cihazı olduğu için yanıp söndüğünü söylediğini söyledi. Şikayete göre chatbot, “Stein-Erik’in, 3 Ağustos’ta annesini öldürmeden önce, annesi ve bir arkadaşının onu arabasının havalandırma deliklerinden dağıtılan psychedelic ilaçlarla zehirlemeye çalıştığına dair inancını doğruladı”.