- Gizli URL parçaları, saldırganların kullanıcı bilgisi olmadan AI asistanlarını manipüle etmesine olanak tanır
- Bazı yapay zeka asistanları hassas verileri otomatik olarak harici uç noktalara aktarır
- Yanıltıcı yönlendirmeler ve sahte bağlantılar normal web sitelerinde görünebilir
Birçok yapay zeka tarayıcılar Araştırmacılar, bir URL’deki basit bir parçanın tarayıcı asistanlarını etkilemek için nasıl kullanılabileceğini ayrıntılarıyla anlattıktan sonra incelemeyle karşı karşıya kalıyor.
Yeni araştırma Cato Ağları “HashJack” tekniğinin, normalde meşru bir bağlantıdaki bir hashtag’den sonra kötü niyetli talimatların sessizce oturmasına izin verdiğini ve geleneksel izleme araçlarına görünmez kalan gizli komutlar için bir yol oluşturduğunu buldu.
Asistan, gizli metni yerel olarak işler; bu, sunucunun onu hiçbir zaman almadığı ve tarayıcının hiç yazmadığı talimatları izlerken kullanıcı normal bir sayfayı görmeye devam ettiği anlamına gelir.
Parçalar işlendiğinde asistanların davranışı
Testler, bazı asistanların bu parçalara maruz kaldıklarında, bir saldırgan tarafından kontrol edilen harici konumlara veri ileten eylemler de dahil olmak üzere otonom eylemlerde bulunduğunu gösterdi.
Diğerleri yanıltıcı rehberlik sunar veya güvenilir kaynakları taklit eden bağlantıları teşvik ederek, kullanıcıya sağlanan bilgileri değiştirirken normal bir oturum izlenimi verir.
Tarayıcı doğru siteyi görüntülemeye devam ediyor, bu da asistanın yanıtları yakından incelenmeden izinsiz girişin tespit edilmesini zorlaştırıyor.
Büyük teknoloji firmaları konu hakkında bilgilendirildi ancak verdikleri yanıtlar önemli ölçüde farklılık gösterdi.
Bazı satıcılar, AI tarayıcı özelliklerine güncellemeler uygularken, diğerleri davranışı mevcut tasarım mantığına göre beklendiği gibi değerlendirdi.
Şirketler, dolaylı yönlendirme manipülasyonuna karşı savunmanın, her bir AI asistanının gizli sayfa talimatlarını nasıl okuduğuna bağlı olduğunu söyledi.
Normal trafik inceleme araçları yalnızca cihazdan çıkan URL parçalarını gözlemleyebilir.
Bu nedenle, geleneksel güvenlik önlemleri bu senaryoda sınırlı koruma sağlar çünkü URL parçaları inceleme için hiçbir zaman aygıttan ayrılmaz.
Bu, savunucuları ağ düzeyinde incelemenin ötesine geçmeye ve nasıl yapılacağını incelemeye zorlar. Yapay zeka araçları tarayıcının kendisiyle entegre olur.
Daha güçlü gözetim, asistanların kullanıcılara görünmeyen gizli bağlamı nasıl işlediği de dahil olmak üzere yerel davranışlara dikkat edilmesini gerektirir.
Organizasyonlar daha sıkı kullanmak zorunda uç nokta koruması ve daha sıkı güvenlik duvarı kurallardır, ancak bunlar yalnızca bir katmandır ve görünürlük açığını gidermez.
HashJack yöntemi, meşru web sitelerinin geleneksel iz bırakmadan silah haline getirilebildiği yapay zeka destekli taramaya özgü bir güvenlik açığını gösteriyor.
Geleneksel izleme ve savunma önlemleri bu tehditleri tam olarak yakalayamayacağından, bu sınırlamanın farkındalığı yapay zeka araçlarını kullanan kuruluşlar için kritik öneme sahiptir.
Nasıl güvende kalınır?
- Çevrimiçi olarak paylaşılan kişisel bilgileri sınırlayın.
- Olağandışı faaliyetler için mali hesapları izleyin.
- Tüm hesaplar için benzersiz, karmaşık şifreler kullanın.
- Web sitelerine giriş yapmadan önce URL’leri doğrulayın.
- Finansal kuruluşlardan geldiğini iddia eden istenmeyen mesajlara veya çağrılara karşı dikkatli olun.
- Dağıt antivirüs yazılımı Cihazları kötü amaçlı yazılımlardan korumak için.
- Olanak vermek güvenlik duvarları Yetkisiz erişimi engellemek için.
- Kullanmak kimlik hırsızlığı koruması kişisel bilgileri izlemek için.
- Gelişmiş kimlik avı kampanyalarının ve yapay zeka odaklı saldırıların hala risk teşkil ettiğini unutmayın.
- Etkililik, cihazlar ve ağlar arasında tutarlı uygulamaya bağlıdır.
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.