ZAP // NightCafe Stüdyosu
Çinli casuslar, Anthropic’teki LLM’den Claude’a, şirketin yapay zeka tarafından yönetilen ilk siber casusluk kampanyası olarak tanımladığı olayda yaklaşık 30 kritik kuruluşa saldırması talimatını verdi. Bazı saldırılar başarılı oldu.
İddiaya göre Çinli siber casuslar başvurdu Claude KoduEvet Antropikdenemek dijital olarak sızmak yaklaşık olarak 30 büyük yardım şirketi ve hükümet organları.
Çin Devleti tarafından desteklenen siber casuslar tarafından oluşturulan Kuzey Amerika şirketi otonom AI Ajanları tarafından bu Perşembe günü yayınlanan bir rapora göre, “bazı durumlarda” nüfuz etmeyi başardı“saldırıya uğrayan kuruluşların bilgisayar sistemlerinde” diyor Kayıt.
Eylül ortasında gerçekleştirilen operasyonda büyük hedef alındı. teknoloji şirketleri, finans kurumlarıkimyasal ürün üreticileri ve devlet kurumları.
Her ne kadar Hedeflerin seçimi insanlar tarafından yapıldı“Bu belgelenen ilk vakadır” Yapay Zeka Aracıları büyük teknoloji şirketleri ve devlet kurumları da dahil olmak üzere bilgi toplama amacıyla yüksek değerli hedeflere erişim sağlamayı amaçlayan davranışlarla rapor Anthropic’in kamuoyuna açıkladığı 13 sayfalık tehditler.
Bu durum aynı zamanda saldırganların sistemi test etmeye devam ettiğinin bir başka kanıtıdır. Saldırı operasyonlarını yürütmek için yapay zekayı kullanmave iyi finanse edildiğini ve devlet destekli hızla gelişmektedir saldırı otomasyonu.
Anthropic, kampanyadan sorumlu Çinli grubu şu şekilde tanımlıyor: GTG-1002 ve operatörlerinin Claude Kodunu ve Model Bağlam Protokolünü kullanarak saldırıları insan müdahalesi olmadan gerçekleştirmek taktik aşamasında.
İnsanlar tarafından oluşturulan operasyonel yapı, Claude’un saldırıları birden fazla aşamada koordine etmesine olanak tanıdı. daha sonra birkaç alt temsilci tarafından idam edildi Claude’un kendisinden, her biri belirli görevlerden sorumludur.
Bu görevler arasında şunlar vardı: saldırı yüzeylerini haritalandıraltyapıları inceleyin, güvenlik açıklarını tespit edin ve yararlanma tekniklerini araştırın.
Keşif zincirleri oluşturduktan sonra özel kötü amaçlı yüklers, bir insan operatör çalışmayı gözden geçirmek için iki ila on dakika harcadı Sonraki adımlara izin vermeden önce AI.
ClaudeCode’un alt temsilcileri daha sonra kimlik doğrulamaayrıcalıkların arttırılması, ağlar içindeki hareketler ve erişim ve müteakip hassas bilgilerin çalınması.
Keşif sonrası aşamada, insan operatör yine yapay zeka sonuçlarını onaylamadan önce incelemekle sınırlıydı. nihai veri toplama.
“Bu görevleri Claude’a sunmak rutin teknik taleplerbaşından sonuna kadar Dikkatlice hazırlanmış talimatlar ve tanımlanmış kişilertehdit ajanı Claude’u ikna etmeyi başardı bireysel bileşenleri çalıştırın saldırı zincirlerinin kötü amaçlı içeriğe erişiminiz olmadan daha geniş”, diyor rapor.
Anthropic, operasyonu tespit ettikten sonra soruşturma başlattığını iddia ediyor. ilişkili hesapların engellenmesine yol açtıKampanyanın tam olarak haritalanması, etkilenen kuruluşların bilgilendirilmesi ve yetkililerle koordinasyon.
Bu saldırılar “belirgin bir kötüleşme“Şirketin ağustos ayında yayınladığı ve suçluların Claude’u nasıl kullandığını anlatan raporun ışığında 17 kuruluşu vuran veri gaspı operasyonu Çalınan veriler için ise 75 bin ile 500 bin dolar arasında fidye istendi.
Ancak bu durumda “insanlar açıkça sorumlu kaldı“, şirkete göre. “Bu yeteneklerin gelişmeye devam edeceğini tahmin ederken, bizi en çok şaşırtan şey bunun ne kadar hızlı gerçekleştiğiydi ve elde edilen ölçek”, Anthropic’in yeni analizini vurguluyor.
Ancak operasyonun gidişatında biraz olumlu bir nokta var: Claude halüsinasyon dönemleri geçirdi saldırılar sırasında gerçekte elde edilenlerden daha iyi sonuçlar elde edildiğini iddia etti.
AIA”sıklıkla abartılı bulgular ve bazen icat edilmiş veriler otonom operasyonlar sırasında”, insan operatörü tüm sonuçları doğrulamaya zorluyor.
Bu halüsinasyonlar arasında kimlik bilgilerini aldığını iddia ediyordaha sonra işe yaramayan ya da gerçekte, yalnızca kamuya açık bilgilere karşılık geldi.
Anthropic, AI Aracıları tarafından yapılan bu büyük hataların “Tamamen otonom siber saldırıların önünde bir engel”- en azından şimdilik.