2 Şubat 2024’te çekilen bu fotoğraf, Çinli teknoloji şirketi Baidu tarafından oluşturulan yapay zeka sohbet robotu Wantalk’ın Ürün Yönetimi ve Operasyonları başkanı Lu Yu’yu, Pekin’deki Baidu genel merkezinde telefonunda sanal bir kız arkadaş profili gösterirken gösteriyor.
Yeşim Gao | Afp | Getty Images
PEKİN — Çin, yapay zeka destekli sohbet robotlarının insan duygularını intihara veya kendine zarar vermeye yol açabilecek şekilde etkilemesini kısıtlamayı planlıyor. taslak kurallar Cumartesi günü yayınlandı.
önerilen düzenlemeler Çince belgenin CNBC çevirisine göre, Siber Uzay İdaresi’nden gelen bir şirket, “insan benzeri etkileşimli yapay zeka hizmetleri” olarak adlandırdığı hizmetleri hedef alıyor.
Tedbirler kesinleştiğinde, Çin’de halka sunulan, insan kişiliğini simüle eden ve kullanıcıları metin, resim, ses veya video yoluyla duygusal olarak meşgul eden AI ürünleri veya hizmetleri için geçerli olacak. Kamu yorumu dönemi 25 Ocak’ta sona eriyor.
NYU Hukuk Fakültesi’nde yardımcı profesör olan Winston Ma, Pekin’in planlanan kurallarının, yapay zekayı insan veya antropomorfik özelliklerle düzenlemeye yönelik dünyadaki ilk girişimi işaretleyeceğini söyledi. En son teklifler, Çinli şirketlerin hızla yapay zeka yoldaşları ve dijital ünlüleri geliştirmesiyle geldi.
Çin ile karşılaştırıldığında 2023’te üretken yapay zeka düzenlemesiMa, bu versiyonun “içerik güvenliğinden duygusal güvenliğe bir sıçramayı vurguladığını” söyledi.
Taslak kurallar şunları önermektedir:
- Yapay zeka sohbet robotları, intiharı veya kendine zarar vermeyi teşvik eden veya kullanıcıların zihinsel sağlığına zarar veren sözlü şiddete veya duygusal manipülasyona karışan içerik oluşturamaz.
- Bir kullanıcı özellikle intihar etmeyi teklif ederse, teknoloji sağlayıcıları konuşmayı bir kişinin devralması ve derhal kullanıcının vasisi veya belirlenmiş bir kişiyle iletişime geçmesi gerekir.
- Yapay zeka sohbet robotları kumarla ilgili, müstehcen veya şiddet içerikli içerik üretmemelidir.
- Reşit olmayanların, yapay zekayı duygusal arkadaşlık amacıyla kullanmak için velisinin onayına sahip olması gerekir; kullanımda süre sınırlaması vardır.
- Platformlar, kullanıcı yaşını açıklamasa bile kullanıcının reşit olup olmadığını tespit edebilmeli ve şüpheli durumlarda itirazlara izin verirken reşit olmayanlara yönelik ayarları uygulayabilmelidir.
Ek hükümler, teknoloji sağlayıcılarının iki saatlik sürekli AI etkileşiminden sonra kullanıcılara hatırlatma yapmasını ve 1 milyondan fazla kayıtlı kullanıcısı veya 100.000’den fazla aylık aktif kullanıcısı olan AI sohbet robotları için güvenlik değerlendirmelerini zorunlu kılmasını gerektirecektir.
Belge aynı zamanda insan benzeri yapay zekanın “kültürel yayılım ve yaşlılarla arkadaşlık” amacıyla kullanılmasını da teşvik etti.
Çin AI chatbot halka arzları
Teklif, Çin’in önde gelen iki yapay zeka sohbet robotu girişimi Z.ai ve Minimax’tan kısa bir süre sonra geldi., bu ay Hong Kong’da halka arz için başvuruda bulundu.
Minimax, uluslararası alanda en çok, kullanıcıların sanal karakterlerle sohbet etmesine olanak tanıyan Talkie AI uygulamasıyla tanınıyor. Uygulama ve onun yerel Çince versiyonu Xingye, yılın ilk üç çeyreğinde şirketin gelirinin üçte birinden fazlasını oluşturdu. Aylık 20 milyondan fazla aktif kullanıcı bu süre zarfında.
Zhipu olarak da bilinen Z.ai, ” adı altında dosyalandıBilgi Atlası TeknolojisiŞirket aylık aktif kullanıcı sayısını açıklamazken, teknolojisine dikkat çekti Yaklaşık 80 milyon “güçlendirilmiş” akıllı telefonlar, kişisel bilgisayarlar ve akıllı araçlar dahil olmak üzere cihazlar.
Her iki şirket de CNBC’nin önerilen kuralların halka arz planlarını nasıl etkileyebileceğine ilişkin yorum talebine yanıt vermedi.