- Hyperlink tamamen yerel donanım üzerinde çalışır ve her aramayı gizli tutar
- Uygulama, RTX PC’lerdeki devasa veri klasörlerini dakikalar içinde indeksler
- Hyperlink’te LLM çıkarımı, Nvidia’nın en son optimizasyonuyla iki katına çıkıyor
Nexa.ai’nin yeni “Hyperlink” aracısı, yapay zeka aramasına tamamen yerel donanım üzerinde çalışan bir yaklaşım getiriyor.
Şunun için tasarlandı: Nvidia RTX AI PC’lerde uygulama, kişisel verileri yapılandırılmış bilgilere dönüştüren bir cihaz üstü asistan işlevi görür.
Nvidia özetlenen sorguları uzak sunuculara göndermek yerine, her şeyi yerel olarak işleyerek hem hız hem de gizlilik sunuyor.
Yerel hızda özel istihbarat
Hyperlink, RTX 5090 sistemiyle karşılaştırıldı ve bildirildiğine göre 3 kata kadar daha hızlı indeksleme ve 2 kata kadar daha hızlı indeksleme sağlıyor büyük dil modeli önceki yapılara kıyasla çıkarım hızı.
Bu ölçümler, bir bilgisayardaki binlerce dosyayı mevcut yapay zeka araçlarının çoğundan daha verimli bir şekilde tarayıp düzenleyebileceğini gösteriyor.
Hyperlink, LLM’lerin muhakeme yeteneklerini yerel dosyalara uygulayarak kullanıcı amacını yorumladığı ve dosya adları belirsiz veya gerçek içerikle ilgisiz olduğunda bile ilgili materyali bulmasına olanak tanıdığı için yalnızca arama terimlerini eşleştirmez.
Statik anahtar kelime aramasından bağlamsal kavramaya olan bu geçiş, üretken yapay zekanın günlük hayata giderek artan entegrasyonuyla uyumludur. üretkenlik araçları.
Sistem ayrıca birden fazla belgedeki ilgili fikirleri birbirine bağlayarak net referanslarla yapılandırılmış yanıtlar sunabilir.
Çoğu bulut tabanlı asistanın aksine, Hyperlink tüm kullanıcı verilerini cihazda tutar, böylece PDF’lerden slaytlara ve resimlere kadar taradığı dosyalar gizli kalır ve hiçbir kişisel veya gizli bilginin bilgisayardan çıkmamasını sağlar.
Bu model, hâlâ üretken yapay zekanın performans avantajlarını isteyen, hassas verilerle çalışan profesyonellere hitap ediyor.
Kullanıcılar, uzaktan depolama veya işlemeyle birlikte verilerin açığa çıkması riski olmadan hızlı bağlamsal yanıtlara erişim kazanır.
Nvidia’nın RTX donanımına yönelik optimizasyonu, arama performansının ötesine geçiyor; şirket, alma-artırılmış nesil (RAG) teknolojisinin artık yoğun veri klasörlerini üç kata kadar daha hızlı indekslediğini iddia ediyor.
Eskiden işlenmesi yaklaşık 15 dakika süren tipik 1 GB’lık bir koleksiyon artık yaklaşık 5 dakikada indekslenebiliyor.
Çıkarım hızındaki iyileşme aynı zamanda yanıtların daha hızlı ortaya çıkması, toplantı hazırlığı, çalışma oturumları veya rapor analizi gibi günlük görevlerin daha sorunsuz hale getirilmesi anlamına da geliyor.
Hyperlink, yerel akıl yürütmeyi ve GPU hızlandırmayı birleştirerek rahatlığı kontrolle birleştirir ve onu kullanışlı bir hale getirir. Yapay zeka araçları Verilerini gizli tutmak isteyenler için.
TechRadar’ı Google Haberler’de takip edin Ve bizi tercih edilen kaynak olarak ekleyin Akışlarınızda uzman haberlerimizi, incelemelerimizi ve görüşlerimizi almak için. Takip Et butonuna tıklamayı unutmayın!
Ve tabii ki siz de yapabilirsiniz TechRadar’ı TikTok’ta takip edin Video biçimindeki haberler, incelemeler ve kutu açma işlemleri için bizden düzenli güncellemeler alın WhatsApp fazla.