- Microsoft, Whisper Leak’in şifrelenmiş yapay zeka sistemlerinde gizlilik kusurlarını gösterdiğini tespit etti
- Şifrelenmiş yapay zeka sohbetleri hâlâ kullanıcıların ne tartıştığına dair ipuçları sızdırıyor olabilir
- Saldırganlar paket boyutunu ve zamanlamasını kullanarak konuşma konularını izleyebilir
Microsoft Konuşmalar tamamen şifrelenmiş olsa bile kullanıcıların AI sohbet robotlarıyla tartıştığı konuları açığa çıkarabilen “Whisper Leak” adı verilen yeni bir siber saldırı türünü ortaya çıkardı.
Şirketin araştırma saldırganların, tartışılan konuyu anlamak için kullanıcı ile büyük bir dil modeli arasında değiştirilen şifreli paketlerin boyutunu ve zamanlamasını inceleyebileceklerini öne sürüyor.
“Bir devlet kurumu veya internet servis sağlayıcısı popüler bir yapay zekaya giden trafiği izliyorsa sohbet robotuMicrosoft, belirli hassas konular hakkında soru soran kullanıcıları güvenilir bir şekilde tespit edebildiklerini söyledi.
Whisper Leak saldırıları
Bu, “şifreli”nin mutlaka görünmez olduğu anlamına gelmediği anlamına gelir; güvenlik açığı, Yüksek Lisans’lar Yanıtları gönderin.
Bu modeller tam bir yanıt beklemez, verileri aşamalı olarak ileterek saldırganların analiz edebileceği küçük modeller oluşturur.
Zamanla daha fazla örnek topladıkça bu modeller daha net hale geliyor ve konuşmaların doğası hakkında daha doğru tahminler yapılmasına olanak tanıyor.
Bu teknik, mesajların şifresini doğrudan çözmüyor ancak eğitimli çıkarımlar yapmak için yeterli meta veriyi ortaya çıkarıyor ki bu da tartışmasız aynı derecede endişe verici.
Microsoft’un açıklamasının ardından OpenAI, Mistral ve xAI, azaltım önlemlerini uygulamaya koymak için hızla harekete geçtiklerini söyledi.
Çözümlerden biri, her yanıta “değişken uzunlukta rastgele metin dizisi” ekleyerek saldırganların güvendiği belirteç boyutlarının tutarlılığını bozuyor.
Ancak Microsoft, kullanıcılara halka açık Wi-Fi, VPN kullanma veya yayın yapmayan LLM modellerine bağlı kalma konusunda hassas tartışmalardan kaçınmalarını tavsiye ediyor.
Bulgular, birçok açık ağırlıklı LLM’nin, özellikle çok turlu görüşmeler sırasında manipülasyona karşı savunmasız kaldığını gösteren yeni testlerle birlikte geliyor.
Cisco AI Defense’den araştırmacılar, diyalog karmaşık hale geldiğinde büyük şirketler tarafından oluşturulan modellerin bile güvenlik kontrollerini sürdürmekte zorlandığını buldu.
Bazı modellerin “uzun süreli etkileşimlerde güvenlik korkuluklarını koruma konusunda sistematik bir yetersizlik” sergilediğini söylediler.
2024 yılında raporlar ortaya çıktı ki Yapay zeka sohbet robotu 300.000’den fazla dosyayı sızdırdı Kişisel olarak tanımlanabilir bilgileri içeren yüzlerce LLM sunucuları açıkta kaldıYapay zeka sohbet platformlarının gerçekte ne kadar güvenli olduğuna dair soruları gündeme getiriyor.
Geleneksel savunmalar, örneğin antivirüs yazılımı veya güvenlik duvarı koruması, Whisper Leak gibi yan kanal sızıntılarını tespit edemiyor veya engelleyemiyor ve bu keşifler gösteriyor ki Yapay zeka araçları gözetim ve veri çıkarımına maruz kalmayı istemeden genişletebilir.
Tüm bütçeler için en iyi kimlik hırsızlığı koruması
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.