Anthropic, Çin’le bağlantılı yapay zeka destekli hackleme kampanyası konusunda uyardı | Teknoloji Haberleri


Araştırmacılar, yapay zekanın siber saldırıların bazı kısımlarını otomatikleştirmek için kullanıldığını iddia etti; bu, yapay zeka donanımlı bilgisayar korsanlarının erişim alanını genişletebilecek rahatsız edici bir gelişme.

Bir araştırmacı ekibi, bir bilgisayar korsanlığı kampanyasını büyük ölçüde otomatikleştirilmiş bir şekilde yönlendirmek için yapay zekanın kullanıldığı bildirilen ilk olayı ortaya çıkardı.

Yapay zeka şirketi Anthropic, bu hafta araştırmacılarının Çin hükümetiyle bağlantılı olduğu bir siber operasyonu aksattığını söyledi. Operasyonda, yapay zeka sisteminin kullanılmasıyla, hack kampanyaları, Araştırmacılar bunu yapay zeka donanımlı bilgisayar korsanlarının erişim alanını büyük ölçüde genişletebilecek rahatsız edici bir gelişme olarak nitelendirdi.

Önerilen Hikayeler

4 öğenin listesilistenin sonu

Araştırmacılar, yapay zekanın siber operasyonları yönlendirmek için kullanılmasına ilişkin endişelerin yeni olmadığını, ancak yeni operasyonla ilgili endişe verici olanın, yapay zekanın bazı işleri ne ölçüde otomatikleştirebildiği olduğunu söyledi.

Raporlarında, “Bu yeteneklerin gelişmeye devam edeceğini tahmin etsek de, bizim için dikkat çeken şey, bunu geniş ölçekte ne kadar hızlı yaptıklarıydı” diye yazdılar.

Operasyonun kapsamı mütevazıydı ve yalnızca teknoloji şirketlerinde, finans kurumlarında, kimya şirketlerinde ve devlet kurumlarında çalışan yaklaşık 30 kişiyi hedef alıyordu. Antropik Eylül ayında operasyonu fark etti ve operasyonun durdurulması ve etkilenen taraflara bilgi verilmesi için gerekli adımları attı.

Anthropic’e göre bilgisayar korsanları yalnızca “az sayıda vakada başarılı oldu”. Anthropic, AI sistemlerinin iş ve eğlence için çeşitli ortamlarda giderek daha fazla kullanılmasına rağmen, yabancı düşmanlar için çalışan bilgisayar korsanlığı grupları tarafından da silah haline getirilebileceğini belirtti.

Üretken yapay zeka sohbet robotu Claude’un yaratıcısı Anthropic, bir sohbet robotunun bilgisayar araçlarına erişme ve kişi adına işlem yapma yeteneğinin ötesine geçen yapay zeka “aracıları” sunan birçok teknoloji şirketinden biri.

Araştırmacılar, “Ajanlar günlük işler ve üretkenlik açısından değerlidir, ancak yanlış ellerde büyük ölçekli siber saldırıların uygulanabilirliğini önemli ölçüde artırabilirler” sonucuna vardı. “Bu saldırıların etkinliği muhtemelen artacaktır.”

Çin’in Washington büyükelçiliği sözcüsü, rapor hakkında yorum yapmak isteyen bir mesaja hemen yanıt vermedi.

Microsoft bu yılın başlarında yabancı rakiplerin siber kampanyalarını daha verimli ve daha az emek yoğun hale getirmek için yapay zekayı giderek daha fazla benimsediği konusunda uyarmıştı.

ABD’li düşmanların yanı sıra suç çeteleri ve bilgisayar korsanlığı şirketleri, yapay zekanın potansiyelinden yararlanarak onu siber saldırıları otomatikleştirmek ve geliştirmek, kışkırtıcı dezenformasyon yaymak ve hassas sistemlere sızmak için kullanıyor. Yapay zeka, örneğin kötü ifade edilmiş kimlik avı e-postalarını akıcı İngilizceye çevirebildiği gibi, üst düzey hükümet yetkililerinin dijital kopyalarını da oluşturabilir.



Kaynak bağlantısı