- Yeni GTIG raporuna göre yapay zeka araçları suçlular için özel olarak üretiliyor
- Bu araçlar güvenlik için tasarlanmış yan basamaklı yapay zeka korkulukları
- ‘Tam zamanında’ AI kötü amaçlı yazılımı, suçluların tekniklerini nasıl geliştirdiğini gösteriyor
GoogleTehdit İstihbarat Grubu tanımladı Yapay zeka trendlerinde endişe verici bir değişim; yapay zeka artık yalnızca suçluları daha üretken kılmak için kullanılmıyor, aynı zamanda aktif operasyonlar için özel olarak geliştiriliyor.
Araştırmasında Büyük Dil Modelleri (Yüksek Lisans’lar) özellikle kötü amaçlı yazılımlarda, PROMPTFLUX gibi ‘Tam Zamanında’ yapay zeka ile kullanılıyor; bu, VBScript’te yazılmış ve Gemini’nin API’si ile birlikte çalışarak ‘tam zamanında’ kendi kendini değiştirmeyi kolaylaştıracak ve muhtemelen statik imza tabanlı tespitten kaçacak özel VBScript gizleme ve kaçırma teknikleri’ talep ediyor.
Bu, suçluların “dinamik gizleme teknikleri” geliştirmek ve kurbanları hedef almak için yüksek lisans eğitimleriyle nasıl deneyler yaptığını gösteriyor. Google tarafından incelenen PROMPTFLUX örnekleri, bu kod ailesinin şu anda test aşamasında olduğunu gösteriyor; dolayısıyla suçlular bunları daha da geliştirdiğinde durum daha da tehlikeli hale gelebilir.
Zarar vermek için tasarlandı
Meşru pazar yeri Yapay zeka araçları olgunlaşıyor ve suç karaborsası da öyle. Yeraltı forumları, suçluların yasa dışı faaliyetlere girişme engelini azaltmaya yardımcı olan amaca yönelik olarak oluşturulmuş yapay zeka araçları sunar. Bu herkes için kötü bir haber çünkü suçluların artık karmaşık siber saldırıları gerçekleştirmek için özel bir beceriye sahip olmaları gerekmiyor ve giderek artan sayıda seçeneğe sahipler.
Tehdit aktörleri, Gemini’yi kendilerine aksi takdirde yasaklanabilecek bilgileri sağlamaya ikna etmek için ‘siber güvenlik araştırmacıları’ gibi davranarak yapay zeka güvenlik özelliklerinden kaçınmak için sosyal mühendisliği anımsatan taktikler kullanıyor.
Peki bu olayların arkasında kim var? Araştırma, belki de şaşırtıcı olmayan bir şekilde, İran ve Çin’deki devlet destekli aktörlerle bağlantıları tespit ediyor. Bu kampanyaların, daha önce gözlemlenenlere benzer şekilde, veri sızdırmaktan keşif yapmaya kadar çeşitli hedefleri vardır. devletlerin operasyonlarını etkilemekaynı zamanda AI araçlarını da kullanıyor.
Yapay zeka araçları popüler hale geldiğinden beri, hem suçlular hem de güvenlik ekipleri bu araçları üretkenliği artırmak ve operasyonlara yardımcı olmak için kullanıyor ve kimin üstün olduğu tam olarak belli değil.
Tüm bütçeler için en iyi kimlik hırsızlığı koruması