- İngiltere’nin NCSC’si, yüksek lisans tasarımı nedeniyle ani enjeksiyon saldırılarının hiçbir zaman tamamen azaltılamayacağı konusunda uyardı
- SQL enjeksiyonunun aksine, LLM’ler talimatlar ve veriler arasında ayrımdan yoksundur ve bu da onları doğası gereği savunmasız hale getirir
- Geliştiriciler, Yüksek Lisans’lara “kafası karıştırılabilir vekiller” olarak davranmaya ve tehlikeye atılan çıktıları sınırlayan sistemler tasarlamaya çağırdı
Kullanıcı tarafından sağlanan içeriğin içine gizli veya kötü amaçlı talimatlar yerleştirerek büyük bir dil modelini (LLM) manipüle etme girişimleri anlamına gelen hızlı enjeksiyon saldırıları, hiçbir zaman gerektiği gibi azaltılamayabilir.
Bu, Birleşik Krallık Ulusal Siber Güvenlik Merkezi’nin (NCSC) Platform Araştırmaları Teknik Direktörü David C’ye göre değerlendirmeyi bir blogda yayınladı tekniğin değerlendirilmesi. Makalede, çoğu kişinin hızlı enjeksiyonu SQL enjeksiyonuyla karşılaştırdığını, bunun hatalı olduğunu, zira ilkinin temelde farklı ve tartışmasız daha tehlikeli olduğunu savunuyor.
İkisi arasındaki temel fark, LLM’lerin talimatlar ve veriler arasında gerçek bir ayrım uygulamamasıdır.
Doğası gereği kafası karışık milletvekilleri
“Başlangıçta komut yürütme olarak rapor edilmiş olsa da, altta yatan sorunun klasik istemci/sunucu güvenlik açıklarından daha temel olduğu ortaya çıktı” diye yazıyor. “Mevcut büyük dil modelleri (Yüksek Lisans’lar) bir istem içindeki talimatlar ve veriler arasında bir güvenlik sınırı uygulamayın.”
Hızlı enjeksiyon saldırıları, üretken yapay zeka (genAI) kullanan sistemlerde düzenli olarak rapor edilir ve OWASP’nin ‘üretken yapay zeka ve büyük dil modeli uygulamalarını geliştirirken ve güvence altına alırken’ dikkate alınması gereken 1 numaralı saldırısıdır.
Klasik güvenlik açıklarında, veriler ve talimatlar farklı şekilde ele alınır, ancak LLM’ler yalnızca sonraki jeton tahminine göre çalışır; bu, doğası gereği kullanıcı tarafından sağlanan verileri operasyonel talimatlardan ayırt edemedikleri anlamına gelir. “Ani enjeksiyonun hiçbir zaman aynı şekilde gerektiği gibi hafifletilmemesi ihtimali yüksektir” diye ekledi.
NCSC yetkilisi ayrıca sektörün, SQL enjeksiyonunun yeterince anlaşılmadığı ve dolayısıyla geniş çapta istismar edildiği 2000’li yılların başlarında yaptığı hataların aynısını tekrarladığını savunuyor.
Ancak SQL enjeksiyonu sonuçta daha iyi anlaşıldı ve yeni güvenlik önlemleri standart hale geldi. Yüksek Lisans’lar için, geliştiriciler onlara “doğası gereği kafa karıştırıcı temsilciler” gibi davranmalı ve bu nedenle, tehlikeye atılan çıktıların sonuçlarını sınırlayan sistemler tasarlamalıdır.
Bir uygulamanın kalan riski tolere edememesi durumunda bunun bir Yüksek Lisans için uygun bir kullanım durumu olmayabileceği konusunda uyarıyor.
Her bütçeye uygun en iyi antivirüs
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.