- Gartner, kuruluşları yapay zeka tarayıcılarını engelleme konusunda uyardı
- Yapay zeka tarayıcıları verileri tehdit edebilir, finansal bilgileri sızdırabilir ve kimlik bilgilerini aktarabilir
- Çalışanlar siber güvenlik eğitimini tamamlamak için yapay zeka tarayıcılarını kullanabilir
Analist firma Gartner, kuruluşlara yapay zeka tarayıcılarının kullanımını engellemelerini tavsiye ederek, kötü amaçlı web sitelerinde ajan tarayıcılar tarafından gerçekleştirilen veri açığa çıkma potansiyeli veya otonom eylemler konusunda uyarıda bulundu.
Araştırmacı Başkan Yardımcısı Dennis Xu, kıdemli direktör analisti Evgeny Mirolyubov ve Başkan Yardımcısı analisti John Watts tarafından verilen ana gözlem şuydu: “Varsayılan AI tarayıcı ayarları, güvenlikten ziyade kullanıcı deneyimine öncelik veriyor.”
OpenAI’nin ChatGPT Atlas’ı gibi yapay zeka tarayıcıları genellikle otonom navigasyon, iş akışları ve veri toplama kullanarak verimliliği artırmak için kullanılır; ancak kötü niyetli web sayfaları tarafından kandırılarak banka hesabı ayrıntıları, kimlik bilgileri ve e-postalar gibi hassas bilgilerin toplanması ve aktarılması sağlanabilir.
“Seni hacklediğim için mutluyum 🙂”
Gartner analistleri, ajanslı bir tarayıcıyı iki temel özelliği içerecek şekilde özetledi:
- İçerik özetleme, veri toplama, çeviri ve arama yetenekleri gibi işlevler sunan, geliştiricinin yapay zeka modelini kullanarak web içeriğiyle etkileşim kurma yeteneği.
- Web sitelerinde, özellikle kimliği doğrulanmış oturumlarda görevleri bağımsız olarak tamamlama yeteneği.
Birçok aracılı tarayıcı, yerel bir LLM’de AI işlevlerinin kullanılmasına izin vermez; bu, web içeriğinden tarama geçmişine ve açık sekmelere kadar değişen kullanıcı verilerinin “genellikle bulut tabanlı AI arka ucuna gönderildiği ve güvenlik ve gizlilik ayarları kasıtlı olarak sağlamlaştırılmadığı ve merkezi olarak yönetilmediği sürece verilerin açığa çıkması riskini artırdığı” anlamına gelir.
Sonuçta, bir kuruluşun siber güvenlik ve veri koruma politikalarıyla uyumlu olup olmadıklarını görmek için AI tarayıcısının arka uç hizmetlerinin bir değerlendirmesini yapmak her bir kuruluşun sorumluluğundadır. Ancak geçseler bile kuruluş için daha fazla risk oluşturacak şekilde kullanılabilirler.
Bu durumda, kullanıcının kendisi, hassas verileri aynı tarayıcıda açarak tarayıcıya gereksiz miktarda hassas bilgi sağlayabilir. web tarayıcısı tarayıcının AI asistanını kullanırken pencere.
Ayrıca, ajan tarayıcılar eylemleri özerk bir şekilde tamamlayabildiğinden Gartner, çalışanların “yapay zeka tarayıcılarını kullanma ve siber güvenlik eğitimi gibi zorunlu, tekrarlanan ve daha az ilgi çekici olan belirli görevleri otomatikleştirme eğiliminde olabileceği” konusunda uyarıyor.
Gartner, ajansal tarayıcıları kullanmaya devam eden kuruluşların “Kullanıcıları, diğer otonom eylemleri özetlemek veya gerçekleştirmek için AI tarayıcısının kenar çubuğunu kullanırken, tarayıcı sekmesinde etkin olan son derece hassas verilere sahip olmadıklarından emin olmak için, görüntüledikleri her şeyin potansiyel olarak AI hizmetinin arka ucuna gönderilebileceği konusunda eğitmeleri” gerektiğini öne sürüyor.
Gartner’ın danışmanlık hizmeti hakkında yorum yapan, Güvenlik Farkındalığı Baş Savunucusu Javvad Malik KnowBe4 söz konusu:
“Yapay zeka özellikleri siber güvenlikte gerginlik yarattı ve insanların üretkenlik ile güvenlik riskleri arasındaki dengeyi değerlendirmesini gerektirdi. Ajan tarayıcılar kullanıcı deneyimini geliştirmek için birçok özellik vaat etse de, risklerin iyi anlaşılmadığı ve varsayılan yapılandırmaların rahatlığı güvenlikten daha ön planda tuttuğu, birçok teknolojide gördüğümüz bir şeyin olduğu henüz erken aşamalardayız.”
“Ancak, genel yasaklar nadiren sürdürülebilir uzun vadeli stratejilerdir. Bunun yerine, odak noktası, bu tarayıcılara güç veren belirli yapay zeka hizmetlerini değerlendiren risk değerlendirmeleri olmalıdır. Bu, gerekli gözetimi korurken ölçülü bir benimsemeye olanak sağlayabilir. Giderek daha fazla yapay zeka aracısının teknolojinin her alanına girdiğini gördükçe, kuruluşların yapay zeka aracılarını değerlendirmek ve korumak ve bunların kuruluş içinde kendi ihtiyaçlarına ve risk iştahına göre çalışmalarını sağlamak için hazır taktik kitaplarına sahip olmaları gerekir.”
Aracılığıyla Kayıt
Her bütçeye uygun en iyi iş dizüstü bilgisayarları