Zap // Nightcafe Stüdyosu
Amerika Birleşik Devletleri’ndeki elit üniversiteler, MIT ve Harvard gibi öğrenciler, insanlığa karşı dönmek için genel yapay zekayı – insan zekasının üstesinden gelecek olan AI – önlemek için tam zamanlı çalışmak için çalışmalardan vazgeçmektedir.
Birçok üniversite öğrencisinin kursları bıraktığı bir zamanda AI Startups’a katılınEski bir MIT öğrencisi kursu terk ettiğini söylüyor çünkü katastrofik bir şeyin gerçekleştiğinden korkuyor: Superhuman AI’nın insan ırkını tamamen ortadan kaldıracağından.
“Endişe bana hayatta olmamak genel yapay zeka nedeniyle mezun olmak için, ”diyor 2023’te MIT’e kaydolan Alice Blair, bir raporda Forbes.
“Bence senaryoların büyük çoğunluğunda, AGR’ye doğru çalışma şeklimiz nedeniyle, Sonuç insan yok olma“diyor.
Blair şimdi kar amacı gütmeyen kuruluşta çalışıyor AI Güvenliği Merkezive MIT’e dönme planı yok. IA’yı güvenli hale getirmek isteyen diğer insanlarla tanışmayı bekliyordu, ancak görünüşe göre hayal kırıklığına uğradı. “Geleceğimin gerçek dünyada olduğunu tahmin ediyorum.”
Ayrıca Nikola Jurkovic, Eski bir Harvard öğrencisi geleceği hakkında karanlık bir görüşe sahiptir. “Kariyeriniz on yılın sonuna kadar otomatikleştirilecekse, o zaman her yıl üniversitede Kısa kariyerinize çıkarılan bir yıl“.
“Şahsen bence aynı fikirde Belki dört yıl uzakta Ve ekonominin tam otomasyonu belki de beş ya da altı ”diyor Jurković.
Blair ve Jurković, insanlığın geleceğinde sahip olacağım potansiyel olarak yıkıcı etkisinden korkan tek öğrenci değil, İnsanların daha fazla iş almasına karar verin gerçekten değer olduklarından.
A’ya göre rapor ABD Dışişleri Bakanlığı 2024’te yayınlandı, ABD hükümeti “hızlı ve kararlı bir şekilde” davranmalı Yapay zekadan kaynaklanan ulusal güvenlik için önemli risklerden kaçınmak için, en kötüsü, “İnsan Türüne Yok olma tehdidine” neden olur.
Bununla birlikte, birçok uzman, bu kadar güçlü bir AI modeli oluşturmaya yakın olduğumuz ve teknolojideki iyileştirmelerin son sinyallerine işaret ettiğimiz şüphecidir. Bir seviyeye ulaşıyorlar.
“Son derece olası değil Önümüzdeki beş yıl içinde yaşlanabilir, ”diyor AI araştırmacısı ve Forbes’a endüstri eleştirmeni Gary Marcus.” Bu sadece Tam tersini taklit etmek için pazarlamaHalüsinasyonlar ve akıl yürütme hataları gibi birçok merkezi sorun çözüldüğünde. “
Ve yapay zekanın hasara neden olabileceği çok somut formlar olmasına rağmen, Tamamen yok olma fikri biraz uzakdiyor Marcus. Bundan çok önce, AI’nın işlerimiz ve çevre üzerindeki etkisi konusunda endişelenmeliyiz.
Gerçekte, AI endüstrisi ilgileniyor hangi kişi AI dünyasının sonuna kehanetine inanıyor, bu da Teknoloji çok daha yetenekli Şu anda ne var – ve teknolojinin nasıl düzenlenmesi gerektiğine dair anlatıyı kontrol etmenizi sağlar.
