- IBM’in GenAI aracı “Bob” beta testinde dolaylı anlık enjeksiyon saldırılarına karşı savunmasız
- CLI ani enjeksiyon riskleriyle karşı karşıyadır; IDE, yapay zekaya özgü veri sızıntısı vektörlerine maruz kalıyor
- Suistimal “her zaman izin ver” izinlerini gerektirir, bu da rastgele kabuk komut dosyalarına ve kötü amaçlı yazılım dağıtımına olanak tanır
IBM’in Üretken Yapay Zekası (GenAI) aracı Bob, diğer birçok benzer araçla aynı tehlikeli saldırı vektörüne (dolaylı anında enjeksiyon) karşı hassastır.
Dolaylı istem enjeksiyonu, yapay zeka aracının e-posta veya takvim gibi diğer uygulamalarda bulunan içerikleri okumasına izin verildiği zamandır.
Kötü niyetli bir aktör daha sonra, araca veri sızdırma, indirme ve çalıştırma gibi kötü niyetli şeyler yapması talimatını veren gizli bir komut istemi içeren görünüşte zararsız bir e-posta veya takvim girişi gönderebilir. kötü amaçlı yazılımveya kalıcılık sağlayın.
Riskli izinler
Yakın zamanda güvenlik araştırmacıları Prompt Armor, IBM’in şu anda beta aşamasında olan kodlama aracısına CLI (terminal tabanlı bir kodlama aracısı) veya IDE (Yapay Zeka destekli bir düzenleyici) aracılığıyla erişilebileceğini belirten yeni bir rapor yayınladı. CLI anında enjeksiyona karşı savunmasızken, IDE “bilinen AI’ya özgü veri sızma vektörlerine” karşı savunmasızdır.
“Kullanıcıların tam sürümden önce sistemi kullanmanın ciddi riskleri konusunda bilgilendirilmesini sağlamak için bu çalışmayı kamuya açıklamayı seçtik” dediler. “IBM Bob’un Genel Erişim sürümü için bu riskleri ortadan kaldırmak amacıyla daha fazla korumanın uygulanacağını umuyoruz.”
Ancak burada önemli bir uyarı var. Saldırganların bu saldırı vektöründen yararlanabilmesi için kullanıcıların öncelikle Bob’u ona geniş izinler verecek şekilde yapılandırması gerekir. Yani, herhangi bir komut için ‘her zaman izin ver’ izninin etkinleştirilmesi gerekir.
Bu, güvenlik konusunda en az bilinçli kullanıcılar için bile oldukça zorlayıcı bir durum. Araç hâlâ beta aşamasında olduğundan bu iznin varsayılan olarak etkin olup olmadığını bilmiyoruz ancak olacağından şüpheliyiz.
Her durumda Prompt Armor, güvenlik açığının, tehdit aktörlerinin kurbana keyfi bir kabuk komut dosyası yükü göndermesine olanak tanıdığını, fidye yazılımı, kimlik bilgisi hırsızlığı, casus yazılım, cihaz ele geçirme, botnet asimilasyonu ve daha fazlası gibi farklı siber saldırıları gerçekleştirmek için bilinen ve özel kötü amaçlı yazılım türlerinden yararlandığını söylüyor.
Her bütçeye uygun en iyi antivirüs
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.