Gece saat 2’de bir kişiyle yaptığınız konuşmayı hatırlayın. Yayınlandı alerjileriniz hakkında? Veya son banka ekstreleriniz hakkında sorduğunuz soruyu? Şu anda özel hissettiren şey çoğu zaman bundan başka bir şey değildir.
Son raporlar, şirket tarafından yapay zeka etkileşimlerini incelemek üzere işe alınan Meta’nın yüklenicilerinin bazen çoğu kişinin gizli olduğunu varsaydığı sağlık bilgileri, mali kayıtlar ve hatta kimlik verileri gibi düzeltilmemiş kişisel ayrıntıları gördüğünü gösterdi.
Redactable’ın kurucusu ve CEO’su.
Bu, günümüzün yapay zeka yarışının kalbinde yer alan, pek de kamuya açık olmayan bir konudur. Chatbot’lar bankacılık, sağlık hizmetleri, hükümet ve ötesinde geniş ölçekte kullanılıyor. Hızlıdırlar, kullanışlıdırlar ve karmaşık ve bazen de hassas sorguları işleme konusunda giderek daha yeteneklidirler. Ancak kolaylık asla daha önce gelmemelidir güvenlik. Her istem, her transkript ve her arka uç günlüğü, kullanıcıların amaçladığından çok daha uzun süre dayanabilecek veriler taşır.
Teknoloji kurucusu olmadan önce vergi beyannameleri, Sosyal Güvenlik numaraları, teftiş raporları ve hesap özetleriyle çevrili yıllar geçirdim. O zamanlar “koruma”, metnin üzerine kutu çizmek ve güvenli olmasını ummak anlamına geliyordu. Değildi. Gerçek çözümün verileri saklamak değil kalıcı olarak kaldırmak olduğunu fark ettiğimde bu hayal kırıklığı bir fırsata dönüştü.
Chatbotlar ve yapay zeka sistemleri bu sorunların gün yüzüne çıktığı en yeni alandır. Korumak istiyorsak mahremiyet Bu yeni çağda güven inşa etmek için kozmetik düzeltmelere güvenemeyiz. Hem işletmelerin hem de kullanıcıların yapay zeka ile iletişim kurmanın ne anlama geldiğini yeniden düşünmesi gerekiyor. İşte hatırlamanız gereken beş şey.
1. Chatbotlar unutmaz
Çoğu kişi yapay zeka ile sanki özel bir konuşmaymış gibi sohbet ediyor, ancak bu kayıtlar çoğu zaman sandığımızdan çok daha uzun süre ortalıkta kalıyor. Bu kısa sağlık sorusu, sorun giderme günlüğü veya dahili BT talebi saklanabilir, incelenebilir ve hatta gelecekteki modelleri eğitmek için kullanılabilir. Bilgiler sterilize edilmezse süresiz olarak bu modellerde kalabilir.
İşletmeler için bu, saklama politikalarının zımni değil açık olması gerektiği anlamına gelir. Transkriptler müşteri hizmetleri kalitesi için saklanıyorsa, son kullanma tarihleri net olmalıdır. Günlükler eğitim için kullanılıyorsa hassas ayrıntılar insanların eline geçmeden önce kaldırılmalıdır.
Bireysel kullanıcılar da savunmasızdır. Onlar için en güvenli varsayım, bir kişiyle hiçbir şeyin paylaşılmamasıdır. sohbet robotu gerçekten özeldir. Bir ebeveyn, sanal asistandan çocuğunun ilaçları hakkında okula bir e-posta taslağı hazırlamasını isteyebilir. Bir maraton koşucusu, ayak bileği burkulmasının tedavisi konusunda bir sağlıklı yaşam uygulamasından tavsiye isteyebilir.
Her örnek basit bir istek gibi görünse de her kelime sunucularda aylarca, hatta yıllarca saklanabilir. Her numara hassas değildir ancak hesap numaraları, Sosyal Güvenlik numaraları ve diğer tanımlayıcılar hassastır. Bunları güvenli portallar veya telefon görüşmeleri için saklayın.
2. Redaksiyon isteğe bağlı değildir
Veri korumayla ilgili en yaygın yanılgı, bilgiyi gizlemenin onu ortadan kaldırmakla aynı şey olduğudur. Gerçekte alanları gizlemek, girişleri maskelemek veya metni karartmak yalnızca ekrandaki bilgileri kapsar. Temel veriler genellikle dosyada hâlâ mevcuttur ve ortaya çıkarılması kolay olabilir.
Bu özellikle chatbot konuşmalarında tehlikelidir çünkü hassas ayrıntılar transkriptlerin veya hata günlüklerinin derinliklerine gömülmüş olabilir. Yüzeysel düzeltmelere bel bağlayan işletmeler, kendilerini ihlallere ve sızıntılara maruz bırakırken bir yandan da güvenlik yanılsaması yaratıyor.
Gerçek redaksiyon kalıcı olarak kaldırılmasıdır. Bu olmadan şirketler hem uyumluluğu hem de müşteri güvenini kaybetme riskiyle karşı karşıya kalır.
3. Veri minimizasyonu, verilerin kaldırılması anlamına gelir
Bazı kuruluşlar daha az para toplamakla övünürler veriBu iyi bir başlangıç. Ancak toplanan veriler süresiz olarak saklanıyorsa daha az veri sorunu çözmez.
Chatbot transkriptleri mükemmel bir örnektir. Birçoğu modelleri yeniden eğitmek, müşteri duyarlılığını analiz etmek veya anlaşmazlıkları çözmek için tutulur. Bu, her geçen gün bir sorumluluk haline gelen, büyüyen bir hassas bilgi arşivinin olduğu anlamına gelir.
Düzenleyiciler, eyalet düzeyindeki çocuk verileri koruma yasalarından uluslararası gizlilik çerçevelerine kadar yanıt vermeye başlıyor. İşletmelerin de proaktif olması gerekiyor. Artık kalıcı olarak kaldırmayı benimseyen şirketler, kaçınılmaz uyum eğrisinin ilerisinde konumlanacak.
Tüketicilerin de bunu en aza indirmesi gerekiyor. Ortalama bir kullanıcı, chatbot konuşmalarında çoğu zaman farkında olmadan gereğinden fazla paylaşım yapar. Örneğin, bir internet faturasını anlamaya çalışan bir müşteri, hesap numaralarının tamamını yazabilir veya bir hasta, yalnızca birkaç gerekli ayrıntı yerine laboratuvar raporunun tamamını yükleyebilir.
Şirketler, kullanıcıları yüklemeden önce verileri en aza indirmeye veya temizlemeye teşvik ederek yardımcı olabilir, böylece her iki taraf da maruz kalmanın azaltılması sorumluluğunu paylaşabilir.
Bir sohbet robotuna yazmadan önce, duraklayıp şunu sormanın faydası olur: Bu, aranabilir bir kayıt defterinde rahatlıkla tutabileceğim bir şey mi? Değilse, riske değmez. Birçok mesajlaşma uygulamaları ve tarayıcı uzantıları artık kullanıcıların geçmişi otomatik olarak temizlemesine olanak tanıyor. Bu araçlar gerçek redaksiyonun yerini almaz ancak maruz kalmayı azaltır.
4. Şeffaflık kullanıcının güvenini artırır
Ortalama bir kişinin, bilgilerinin nasıl ele alınacağını bilmesi durumunda yapay zeka sistemlerini kullanma olasılığı daha yüksektir. Veri saklama mekanizmalarını gizlemek şüphe yaratır ve güvene zarar verir. Neyin saklandığı, ne kadar süreyle saklandığı ve hassas ayrıntıların çıkarılıp çıkarılmadığı konusunda net iletişim uzun bir yol kat eder.
İşletmeler için bu sadece bir etik meselesi değil aynı zamanda rekabet avantajı meselesidir. Müşteriler, uygulamalarını sade bir dille açıklayan ve kullanıcılara anlamlı kontrol sağlayan şirketleri ödüllendirecek. Şeffaflık, gizliliği aranan bir özelliğe dönüştürür.
Güveni güçlendirmenin bir başka yolu da, sohbet robotları oluşturan veya kullanan şirketlerin, yüklemeden önce aktif olarak veri temizliği önermesidir. Basit bir hatırlatma bile doğru beklentiyi oluşturabilir. Müşterilerin kendilerini veri gizliliği konusunda eğitmelerine yardımcı olarak ekstra çaba gösteren işletmeler, günümüz pazarında rekabet avantajı elde ediyor.
5. Gizlilik rekabet avantajıdır
Kullanıcıların yalnızca hızı önemsediği varsayımı dar görüşlülüktür. Gerçekte pek çok kişi verilerinin nasıl işlendiğiyle de aynı derecede ilgilenir. Yakın zamanda yapılan bir Cisco araştırmasına göre, ankete katılanların %75’i verilerine güvenmedikleri bir şirketten satın alma yapmayacak.
Gittikçe kalabalıklaşan bir pazarda gizlilik, markayı farklılaştıran bir unsur haline geliyor. Bunu sonradan akla gelen bir düşünce olarak değil, bir özellik olarak ele alan şirketler öne çıkacak. Bunu görmezden gelenler düzenleyici işlemleri riske atacak ve müşteri sadakatini kaybedecek. İş teknolojisinde güven yenilikten daha hızlı birleşir.
Müşteri verilerini temizleyen, bu konuda açık ve şeffaf olan şirketler daha da öne çıkacak.
İleriye giden yol
Yapay zeka sohbet robotları ve bunların arkasındaki temel modeller bir yere gitmiyor, gitmemeli de. Bu teknoloji gerçek verimlilik, erişilebilirlik ve ölçek sunar. Ancak bunlar ancak hem işletmelerin hem de kullanıcıların kolaylıkla gelen riskleri fark etmeleri ve kendilerini nasıl güvence altına alacaklarını bilmeleri durumunda başarılı olacaklardır.
Bir zamanlar hassas verilerin üzerine kutu çizmenin müşterilerimi korumadığını öğrendiğim gibi, bugün işletmelerin de gerçek mahremiyetin kuruluşlarına göre tasarlanmış düşünceli bir yaklaşım gerektirdiğini öğrenmesi gerekiyor. Daha azı arzulu bir düşüncedir.
Çoğu şirket, hasar oluştuktan sonra sızıntılara müdahale etmeye devam ediyor. Gerçek değişim, gizliliği bir acil durum müdahalesi olarak ele almayı bıraktığımızda ve en başından itibaren mahremiyet bilincine sahip sistemler tasarlamaya başladığımızda gelecektir. Yapay zeka, en hassas konuşmalarımızı yürütme hakkını bu şekilde kazanıyor.