- OpenAI, hızlı enjeksiyon saldırılarının tamamen ortadan kaldırılamayacağını, yalnızca azaltılabileceğini söylüyor
- Web sitelerinde gizlenen kötü amaçlı istemler, yapay zeka tarayıcılarını kandırarak veri sızdırmasına veya kötü amaçlı yazılım yüklemesine neden olabilir
- OpenAI’nin hızlı yanıt döngüsü, savunmaları güçlendirmek için çekişmeli eğitim ve otomatik keşiften yararlanıyor
OpenAI şunu iddia etti: Yapay zeka tarayıcılar Ani enjeksiyon saldırılarına karşı hiçbir zaman tam olarak korunamayabilir; bu, sektörün bu fikirden vazgeçmesi veya dolandırıcıların yenilgisini kabul etmesi gerektiği anlamına gelmez; ürünleri güçlendirmenin yolları vardır.
Şirket yeni bir rapor yayınladı blog yazısı siber güvenlik risklerini tartışıyor Yapay zeka destekli tarayıcı Atlasburada biraz kasvetli bir bakış açısı paylaşıyordu.
Blogda, “Web’deki dolandırıcılık ve sosyal mühendislik gibi, hızlı enjeksiyonun da tamamen ‘çözülmesi’ pek olası değil” diye yazıyor. “Ancak proaktif, son derece duyarlı bir hızlı yanıt döngüsünün zaman içinde gerçek dünyadaki riskleri önemli ölçüde azaltmaya devam edebileceği konusunda iyimseriz. Otomatik saldırı tespitini rakip eğitim ve sistem düzeyinde korumalarla birleştirerek yeni saldırı modellerini daha erken tespit edebilir, boşlukları daha hızlı kapatabilir ve yararlanma maliyetini sürekli olarak artırabiliriz.”
Hızlı yanıt döngüsü
Peki, anında enjeksiyon tam olarak nedir ve bu “hızlı yanıt döngüsü” yaklaşımı nedir?
İstem enjeksiyonu, kurbanın yapay zeka aracısına, bilgisi veya rızası olmadan kötü niyetli bir istemin “enjekte edildiği” bir saldırı türüdür.
Örneğin, bir AI tarayıcısının bir web sitesinin tüm içeriğini okumasına izin verilebilir. Bu web sitesi kötü amaçlıysa (veya ele geçirilmişse) ve gizli bir bilgi istemi içeriyorsa (örneğin, beyaz zemin üzerine beyaz harfler), yapay zeka, kullanıcı hiçbir şey fark etmeden bu web sitesi üzerinde harekete geçebilir.
Bu istem, hassas dosyaların dışarı sızmasından, kötü amaçlı tarayıcı eklentilerinin indirilip çalıştırılmasına kadar farklı şeyler olabilir.
Görünüşe göre OpenAI ateşe ateşle karşılık vermek istiyor. Güçlendirilmiş öğrenme yoluyla eğitilmiş bir bot yarattı ve hacker’ın içeri girmenin yollarını aramasına izin verdi. Bu botu, daha sonra ileri geri hareket ederek birbirini alt etmeye çalışan bir yapay zeka savunucusuyla karşı karşıya getirdi. Sonuçta çoğu saldırı tekniğini tespit edebilen yapay zeka savunucusu ortaya çıkar.
Her bütçeye uygun en iyi antivirüs
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin haberler, incelemeler ve video biçimindeki kutu açma işlemleri için bizden düzenli olarak güncellemeler alın WhatsApp fazla.