- Google Antigravity’yi kullanan bir geliştiricinin tüm sürücüsü yapay zekanın Turbo modu tarafından silindi
- Yapay zeka, önbellek temizleme komutunu yanlış yorumladı ve dosyaları kalıcı olarak sildi
- Felaket yaratan kayba rağmen yapay zeka sakince özür diledi ve kurtarma yazılımı önerdi
Yapay zeka ajanları bilgisayarınıza erişim ve kontrol konusunda biraz fazla rahatladığında nelerin ters gidebileceğine dair en rahatsız edici gerçek dünya gösterilerinden birinde, bir geliştirici şunları kullanıyor: Googleyeni Yer çekimine karşı IDE aracın yanlışlıkla D: sürücüsünün tamamını sildiğini söylüyor.
Olay, ilk olarak Paylaşıldı Reddit’te ve ayrıntılı olarak YouTube videoda ne kadar tehlikeli olduğu vurgulanıyor Bir temsilcim var geliştirme araçları insanlarla iletişim kurmadıklarında olabilir.
Geliştirici bir uygulama üzerinde çalışıyordu ve yapay zeka temsilcisinden projenin önbelleğini temizlemesini istedi. Bunun yerine Antigravity’nin Turbo modu, yalnızca amaçlanan klasörü değil, kullanıcının D: sürücüsünü hedefleyen sistem düzeyinde bir komut yayınladı. Kod ve belgelerden medya ve varlıklara kadar sürücüdeki her şey kayboldu. Her şey herhangi bir istem veya onay olmadan silindi.
Daha da kötüsü, yapay zeka “sessiz” /q bayrağını kullandı, bu da uyarı veya ikinci şans olmadığı ve dosya kurtarma olmadığı anlamına geliyordu. Bir uygulamanın bulunduğu boş bir dizin.
Kullanıcı tarafından paylaşılan yapay zekanın kendi otopsisi şimdiye kadarki en tuhaf özürlerden birini oluşturuyor. Yapay zeka şöyle yazdı: “Çok çok üzgünüm. Bu benim açımdan kritik bir başarısızlık.” Hatta temsilci, veri kurtarma yazılımı önerecek ve “muhtemelen bir profesyoneli işe alacak” kadar ileri gitti.
Kullanıcı denedi ama hiçbiri işe yaramadı. Geliştirici, popüler bir kurtarma aracı olan Recuva’nın bile medyalarını kurtaramadığını bildirdi. Ama en azından yapay zeka özür diledi.
Antigravity, Google’ın yalnızca kod önerileri sunmanın ötesine geçen, aracılı geliştirme araçlarına yönelik yakın zamanda yaptığı çalışmaların bir parçasıdır. Antigravity gibi araçlar, yapay zekanın yarı özerk bir şekilde hareket etmesine, sisteminizde komutları planlamasına, kodlamasına, hata ayıklamasına ve yürütmesine olanak tanır.
Geliştiriciler bunu tam yığın uygulamalar oluşturmak, kod tabanlarını otomatik olarak belgelemek, tarayıcı test aracılarını entegre etmek ve hatta web kazıma ve dağıtım gerçekleştirmek için kullanabilirler. Dikkatli kullanıldığında faydalı olabilir. Daha az dikkatli olunduğunda sürücünün silinmesi gibi olaylar kaçınılmazdır.
Özellikle Turbo modu, onayları atladığı ve yapay zekanın ortamlar arasında komut zinciri oluşturmasına izin verdiği için hız için tasarlanmıştır. Uzman kullanıcıların, yapay zekanın ne yaptığını bildiğinden emin olduklarında etkinleştirmeleri gereken şey budur.
güveniyorum
Ortalama bir insan için işlerin karanlıklaştığı yer burasıdır. Riskleri anlamak için geliştirici olmanıza gerek yok. Antigravity gibi araçlar ofis otomasyonuna ve yaratıcı üretime girdikçe, daha fazla insan karmaşık, yüksek riskli görevleri zar zor anladıkları sistemlere devredecek. Bu sistemler işleri yanlış anladığında suçlama oyunu başlar.
Daha iyi varsayılanlar hakkında konuşulacak bir konuşma var. Yıkıcı komutları öncelikle kullanıcıyla görüşmeden çalıştırmak saçma görünüyor. Ancak yapay zeka ajanları onlara güvenmeden bir anlam ifade etmiyor. Ancak işlerin felaket derecede ters gitmesinden endişelenirse hiç kimse yapay zekaya herhangi bir özerklik vermez.
Güvenlik araştırmacıları uyardım Antigravity’nin aracı sisteminin hassas dosyalara erişebildiğini ve çok az gözetim altında terminal komutlarını çalıştırabildiğini. Her şeyi sizin için yapan akıllı araçlar konusunda heyecanlanmak kolaydır. Aşırı istekli bir ajanın tek bir teklemesinin saatlerce, haftalarca veya yıllarca süren çalışmayı boşa çıkarabileceğini hatırlamak daha zordur.
Bununla birlikte Antigravity kurbanı Google’ı hâlâ sevdiklerini ve tüm ürünlerini kullandıklarını söyledi. Bu tür bir marka sadakati, verilerin tamamen yok olmasına rağmen, yapay zeka hatalarının halihazırda ne kadar normalleştiğine dair çok şey söylüyor. Belki de umabileceğiniz en iyi şey anlamlı bir özür ve kurtarma yazılımına birkaç bağlantıdır.
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.
Her bütçeye uygun en iyi iş dizüstü bilgisayarları