Yapay zeka için endişe verici bir dönüm noktası mı, yoksa aşırı abartılmış bir tehdit mi?
Yapay zeka girişimi Anthropic’in sonuncusu duyuru Dünyanın ilk yapay zeka odaklı hackleme kampanyasını tespit etmesi, siber güvenlik uzmanlarından çok sayıda yanıt alınmasına yol açtı.
Önerilen Hikayeler
4 öğenin listesilistenin sonu
Bazı gözlemciler, uzun süredir korkulan tehlikeli bir dönüm noktasının gelişiyle ilgili alarmı yükseltirken, diğerleri iddiaları şüpheyle karşıladı ve girişimin hesabının önemli ayrıntıları dışarıda bıraktığını ve cevaplardan çok soruları gündeme getirdiğini savundu.
Cuma günü yayınlanan bir raporda Anthropic, asistanı Claude Code’un “büyük ölçekli” ve “son derece karmaşık” bir siber saldırının yüzde 80-90’ını gerçekleştirmek üzere manipüle edildiğini ve insan müdahalesinin “sadece ara sıra” gerekli olduğunu söyledi.
Popüler Claude sohbet robotunun yaratıcısı Anthropic, saldırının devlet kurumlarına, finans kurumlarına, teknoloji firmalarına ve kimyasal üretim şirketlerine sızmayı amaçladığını ancak operasyonun yalnızca az sayıda vakada başarılı olduğunu söyledi.
Saldırıyı Çin devleti destekli bilgisayar korsanlarına atfeden San Francisco merkezli şirket, operasyonu nasıl ortaya çıkardığını belirtmedi ve hedef aldığını söylediği “kabaca” 30 kuruluşu tanımlamadı.
Louisville Üniversitesi’nden yapay zeka ve siber güvenlik uzmanı Roman V Yampolskiy, Anthropic’in hesabının kesin ayrıntılarını doğrulamanın zor olmasına rağmen yapay zeka destekli hacklemenin ciddi bir tehdit oluşturduğuna şüphe olmadığını söyledi.
Yampolskiy, Al Jazeera’ye şunları söyledi: “Modern modeller, istismar kodunu yazıp uyarlayabilir, büyük miktarda çalınan veriyi inceleyebilir ve araçları insan ekiplerden daha hızlı ve daha ucuz bir şekilde düzenleyebilir.”
“Giriş için beceri engelini azaltıyorlar ve iyi kaynaklara sahip aktörlerin faaliyet gösterebileceği ölçeği artırıyorlar. Buluta, saatlik olarak kiralanabilen genç bir siber operasyon ekibini etkili bir şekilde yerleştiriyoruz.”
Yampolskiy, yapay zekanın saldırıların hem sıklığını hem de şiddetini artırmasını beklediğini söyledi.
Epoch AI direktörü Jaime Sevilla, Anthropic’in raporunda pek yeni bir şey görmediğini ancak geçmiş deneyimlerin, AI destekli saldırıların hem mümkün olduğunu hem de giderek yaygınlaşacağını gösterdiğini söyledi.
Sevilla, Al Jazeera’ye “Bu durumun en çok orta ölçekli işletmeleri ve devlet kurumlarını etkilemesi muhtemel” dedi.
“Tarihsel olarak, özel kampanyalar için yeterince değerli hedefler değillerdi ve çoğu zaman siber güvenliğe yeterince yatırım yapılmıyordu, ancak yapay zeka onları karlı hedefler haline getiriyor. Bu kuruluşların çoğunun siber güvenlik uzmanlarını işe alarak, güvenlik açığını ödüllendiren programlar başlatarak ve zayıflıkları şirket içinde tespit edip yamamak için yapay zekayı kullanarak uyum sağlamasını bekliyorum.”
Pek çok analist Anthropic’ten daha fazla bilgi almak istediklerini ifade ederken, bazıları da iddiaları ciddiye almıyor.
Amerika Birleşik Devletleri Senatörü Chris Murphy’nin, düzenlemelerin bir öncelik haline gelmemesi durumunda yapay zeka liderliğindeki saldırıların “bizi yok edeceği” uyarısında bulunmasının ardından, Meta Yapay Zeka baş bilimcisi Yann LeCun, kanun koyucuya düzenleyicileri ele geçirmek isteyen bir şirket tarafından “oynanması” çağrısında bulundu.
LeCun, X’teki bir gönderisinde, “Açık kaynak modellerinin düzenlenmesini engellemek için şüpheli çalışmalarla herkesi korkutuyorlar” dedi.
Antropik yorum talebine yanıt vermedi.
Washington DC’deki Çin büyükelçiliği sözcüsü, Çin’in her türlü siber saldırıya “tutarlı ve kararlı bir şekilde” karşı çıktığını söyledi.
Liu Pengyu Al Jazeera’ye şöyle konuştu: “İlgili tarafların siber olaylara ilişkin karakterizasyonlarını asılsız spekülasyonlar ve suçlamalar yerine yeterli kanıtlara dayandırarak profesyonel ve sorumlu bir tutum benimsemelerini umuyoruz.”
Melbourne Üniversitesi’nden bilgisayar güvenliği uzmanı Toby Murray, Anthropic’in hem bu tür saldırıların tehlikelerini hem de bunlara karşı koyma yeteneğini vurgulamak için ticari teşviklere sahip olduğunu söyledi.
Murray, Al Jazeera’ye şunları söyledi: “Bazı kişiler, Anthropic’in, saldırganların Claude AI’nın oldukça karmaşık görevleri normalde gerekenden daha az insan gözetimi ile gerçekleştirmesini sağlayabildiği yönündeki iddialarını sorguladı.”
“Maalesef bize tam olarak hangi görevlerin yerine getirildiğini veya ne tür bir gözetim sağlandığını söyleyecek somut deliller sunmuyorlar. Dolayısıyla bu iddialar hakkında şu veya bu şekilde bir hüküm vermek zor.”
Yine de Murray, bazı yapay zeka asistanlarının kodlama gibi görevlerde ne kadar etkili olduğunu göz önünde bulundurarak raporu pek de şaşırtıcı bulmadığını söyledi.
“Yapay zeka destekli hacklemenin meydana gelecek hackleme türlerini değiştireceğini düşünmüyorum” dedi.
“Ancak bu, ölçek değişikliğine yol açabilir. Gelecekte daha fazla yapay zeka destekli saldırı görmeyi ve bu saldırıların daha başarılı olmasını beklemeliyiz.”
Analistler, yapay zekanın siber güvenliğe yönelik artan riskler oluşturmaya hazır olduğunu ancak savunmaların güçlendirilmesinde de önemli olacağını söylüyor.
Harvard Üniversitesi’nden bilgisayar güvenliği ve yapay zeka güvenliği konusunda uzman araştırma görevlisi Fred Heiding, yapay zekanın uzun vadede siber güvenlik uzmanlarına “önemli bir avantaj” sağlayacağına inandığını söyledi.
Heiding, Al Jazeera’ye şunları söyledi: “Günümüzde birçok siber operasyon, siber profesyonel insan sıkıntısı nedeniyle geri kalıyor. Yapay zeka, tüm sistemlerimizi geniş ölçekte test etmemizi sağlayarak bu darboğazın üstesinden gelmemize yardımcı olacak.”
Anthropic’in açıklamasını genel olarak güvenilir ancak “abartılı” olarak nitelendiren Heiding, büyük tehlikenin, güvenlik uzmanları giderek daha gelişmiş yapay zekadan yararlanmaya yetişmeye çalışırken bilgisayar korsanlarının kontrolden çıkma fırsatına sahip olmaları olduğunu söyledi.
“Maalesef savunma topluluğu yeni teknolojiyi otomatik güvenlik testlerine ve yama çözümlerine uygulama konusunda muhtemelen çok yavaş olacak” dedi.
“Eğer durum böyleyse, savunmamız yetişemeden saldırganlar bir düğmeye basarak sistemlerimize zarar verecek.”