İşletmeler yapay zeka aracılarını iş akışlarına entegre ettikçe sessiz bir değişim yaşanıyor.
Güvenlik Tahmin edilebilir davranışlar için tasarlanan statik erişim politikaları üzerine inşa edilen kontroller, yalnızca yürütmek yerine mantık yürüten sistemlerle çarpışıyor. Kurallardan ziyade sonuçlara göre hareket eden yapay zeka aracıları, geleneksel kimlik ve erişim yönetimi modelini bozuyor.
Müşteri davranışını analiz etmek ve elde tutma oranını artırmak için yapay zeka satış asistanı görevlendiren bir perakende şirketi düşünün. Asistanın kişisel olarak tanımlanabilir bilgilere erişimi yoktur; tasarım gereği sınırlıdır.
Ancak “premium aboneliklerini iptal etme olasılığı en yüksek olan müşterileri bulma” istendiğinde, birden fazla sistemdeki etkinlik günlüklerini, destek taleplerini ve satın alma geçmişlerini ilişkilendirir. Bu, davranış kalıpları, harcama alışkanlıkları ve uygulamayı kullanmayı bırakma olasılığı yoluyla belirlenen belirli kullanıcıların bir listesini oluşturur.
Token Security’nin Kurucu Ortağı ve CTO’su.
Hiçbir isim veya kredi kartı ifşa edilmedi, ancak temsilci, çıkarım yoluyla kişileri etkili bir şekilde yeniden tanımladı, sistemin hiçbir zaman erişmesi amaçlanmadığı hassas içgörüleri yeniden oluşturdu ve potansiyel olarak kişisel tanımlanabilir bilgileri (PII) açığa çıkardı.
Kırılmamışken erişim kontrolleribaşlangıçta erişim kapsamı dışında olan bilgilere erişmek için sistemler arasında dolaşmayı düşündü.
Bağlam İstismar Haline Geldiğinde
Geleneksel yazılım iş akışlarının aksine, yapay zeka aracıları deterministik mantığı izlemez; niyetle hareket ederler. Bir yapay zeka sisteminin hedefi “elde tutmayı en üst düzeye çıkarmak” veya “gecikmeyi azaltmak” olduğunda, bu sonuca ulaşmak için hangi verilere veya eylemlere ihtiyaç duyduğu konusunda özerk kararlar alır. Her karar tek başına meşru olabilir, ancak birlikte, aracının amaçladığı kapsamın çok ötesindeki bilgileri açığa çıkarabilir.
Burası bağlamın bir istismar yüzeyi haline geldiği yerdir. Geleneksel modeller, statik sınırları varsayarak kimin neye erişebileceğine odaklanır. Ancak failli sistemlerde önemli olan, eylemin neden gerçekleştiği ve bir failin diğerini çağırmasıyla bağlamın nasıl değiştiğidir. Niyet, her biri hedefi yeniden yorumlayan katmanlar arasında aktığında, orijinal kullanıcı bağlamı kaybolur ve ayrıcalık sınırları bulanıklaşır.
Sonuç geleneksel bir ihlal değil; saldırı vektörünün erişimin değil anlamın olduğu bir bağlamsal ayrıcalık artışı biçimidir.
Deterministik Kontrollerin Eksiklikleri
Çoğu kuruluş, geleneksel RBAC (Rol Tabanlı Erişim Kontrolü) ve ABAC (Öznitelik Tabanlı Erişim Kontrolü) modellerinin dinamik akıl yürütmeye ayak uyduramayacağını öğreniyor. Klasik uygulamalarda her kararın izini bir kod yoluna kadar sürebilirsiniz. Yapay zeka aracılarında mantık acil ve uyarlanabilirdir. Aynı istem çevreye, önceki etkileşimlere veya algılanan hedeflere bağlı olarak farklı eylemleri tetikleyebilir.
Örneğin, optimize etmek için eğitilmiş bir geliştirme temsilcisi bulut bilişim maliyetler, denetim amacıyla veya yedekleme amacıyla kullanılan günlükleri silmeye başlayabilir. Uyumluluk açısından bakıldığında bu felakettir, ancak temsilcinin mantığına göre verimlidir. Güvenlik modeli determinizmi varsayar; temsilci özerklik üstlenir.
Bu uyumsuzluk, izinleri modelleme şeklimizdeki bir kusuru ortaya çıkarıyor. RBAC ve ABAC, “X kullanıcısı Y kaynağına erişmeli mi?” sorusunu yanıtlıyor. Aracılı bir ekosistemde soru şu olur: “Aracı X, Y kaynağından daha fazlasına erişebilmeli mi ve neden bu ek erişime ihtiyaç duysun?” Bu bir erişim sorunu değil; bu bir akıl yürütme problemidir.
Bağlamsal Kaymanın Yükselişi
Dağıtılmış, çok aracılı mimarilerde izinler etkileşim yoluyla gelişir. Aracılar görevleri zincirler, çıktıları paylaşır ve başkalarının sonuçlarına dayanarak varsayımlarda bulunur. Zamanla bu varsayımlar birikerek bağlamsal sapmalar oluşturur ve aracının asıl amacından ve izin verilen kapsamdan kademeli olarak sapma olur.
Bir hayal edin pazarlama kullanıcı davranışını özetleyen, çıktısını bölgesel geliri tahmin etmek için kullanan bir finansal tahmin aracısına besleyen analiz aracısı. Her temsilci sürecin yalnızca bir kısmını görür. Ancak birlikte, müşteri finansal verilerinin eksiksiz ve istenmeyen bir resmini oluşturdular.
Her adım politikayı takip etti. Toplam etki bunu bozdu.
Bağlamsal kayma, yapılandırma kaymasının modern eşdeğeridir. DevOpsburası hariç, bilişsel katmanda oluyor. Güvenlik sistemi uyumluluğu görüyor; acente ağı fırsatı görüyor.
Yalnızca Erişimi Değil, Amacı Yönetmek
Bu yeni risk sınıfını ele almak için kuruluşların erişimi yönetmekten amacı yönetmeye geçmesi gerekiyor. Ajansal sistemlere yönelik bir güvenlik çerçevesi şunları içermelidir:
Niyet Bağlama: Her eylem, yürütme zinciri boyunca kaynak kullanıcının bağlamını, kimliğini, amacını ve politika kapsamını taşımalıdır.
Dinamik Yetkilendirme: Statik yetkilerin ötesine geçin. Kararlar çalışma zamanındaki bağlama, duyarlılığa ve davranışa uyum sağlamalıdır.
Kaynak Takibi: Bir eylemi kimin başlattığı, hangi temsilcilerin katıldığı ve hangi verilere dokunulduğuna dair doğrulanabilir bir kayıt tutun.
Döngüdeki İnsan Gözetimi: Yüksek riskli eylemler için, özellikle aracıların kullanıcılar veya sistemler adına hareket ettiği durumlarda doğrulamayı zorunlu kılın.
Bağlamsal Denetim: Düz günlükleri, sorguların aracılar arasında eylemlere nasıl dönüştüğünü görselleştiren amaç grafikleriyle değiştirin.
Neden Tek Başına İzinler Kusurludur?
Statik izinler kimliğin ve amacın sabit kaldığını varsayar. Ancak aracılar değişken ve gelişen bağlamlarda çalışırlar. Alt aracılar oluşturabilir, yeni iş akışları oluşturabilir veya “erişimi” sürekli olarak yeniden tanımlayan eylemler olan ara veriler üzerinde yeniden eğitim verebilirler.
Bir kimlik sistemi bir güvenlik olayını tespit ettiğinde, tek bir izin dahi ihlal edilmeden bir ihlal veya ihlal zaten gerçekleşmiş olur. Bu nedenle görünürlük ve ilişkilendirme önce gelmelidir. Politikayı uygulamadan önce aracı grafiğini haritalandırmalısınız: ne var, ne bağlı ve kimin neye sahip olduğu.
İronik bir şekilde, kontrollerimize meydan okuyan aynı yapay zeka ilkeleri, onları geri yüklemeye yardımcı olabilir. Uyarlanabilir, politikaya duyarlı modeller, meşru akıl yürütmeyi şüpheli çıkarımlardan ayırt edebilir. Bir aracının niyetinin ne zaman değiştiğini veya bağlamsal sapmanın artan riske işaret ettiğini tespit edebilirler.