KIOXIA AiSAQ™ Teknolojisi, Üretken Yapay Zeka Sistemlerinde DRAM Gereksinimlerini Azaltmak için Tasarlanan Açık Kaynak Kodlu Yazılım Olarak Yayınlandı
Yazılım teknolojisi, SSD'leri kullanarak RAG iş akışlarında vektör veritabanı ölçeklendirmesini ve doğruluğunu geliştiriyor.
europe.kioxia.com
KIOXIA bugün, Ürün Nicelemeli (AiSAQ) yeni All-in-Storage ANNS teknolojisinin açık kaynaklı sürümünü duyurdu. SSD'ler için optimize edilmiş yeni bir "yaklaşık en yakın komşu" arama (ANNS) algoritması olan KIOXIA AiSAQ™ yazılımı, dizin verilerini DRAM'a yerleştirmek yerine doğrudan SSD'lerde arama yaparak erişim artımlı üretim (RAG) için ölçeklenebilir performans sunar.
Üretken yapay zeka sistemleri önemli miktarda hesaplama, bellek ve depolama kaynağı gerektiriyor. Çeşitli sektörlerde dönüştürücü atılımlar gerçekleştirme potansiyeline sahip olsalar da, dağıtımları genellikle yüksek maliyetlerle birlikte geliyor. RAG, büyük dil modellerini (LLM'ler) şirkete veya uygulamaya özel verilerle iyileştiren kritik bir yapay zeka aşaması olarak öne çıkıyor.
RAG'nin merkezi bir bileşeni, belirli verileri biriktiren ve veritabanında özellik vektörlerine dönüştüren bir vektör veritabanı. RAG ayrıca, birikmiş ve hedef vektörler arasındaki benzerliğe dayalı olarak modeli iyileştiren vektörleri tanımlayan bir ANNS algoritması kullanıyor. RAG'nin etkili olabilmesi için, bir sorguyla en alakalı bilgileri hızlı bir şekilde alması gerekiyor. Geleneksel olarak ANNS algoritmaları, bu aramalar için gereken yüksek hızlı performansı elde etmek için DRAM'de kullanılıyor.
KIOXIA AiSAQ™ teknolojisi, ihmal edilebilir bellek kullanımı ve hızlı dizin değiştirme özellikleriyle milyar ölçekli veri kümeleri için ölçeklenebilir ve verimli bir ANNS çözümü sunuyor.
KIOXIA AiSAQ™ Teknolojisinin Temel Faydaları:
- Büyük ölçekli veritabanlarının sınırlı DRAM kaynaklarına ihtiyaç duymadan çalışmasını sağlayarak RAG sistemlerinin performansını artırıyor.
- Dizin verilerini DRAM'e yükleme ihtiyacını ortadan kaldırarak vektör veritabanının anında başlatılmasını sağlıyor. Bu, verimli RAG hizmeti sunumu için aynı sunucu üzerinde kullanıcıya özel veya uygulamaya özel veritabanları arasında sorunsuz geçişi destekliyor.
- Dizinleri birden fazla sunucu arasında paylaşmak için ayrıştırılmış depolama alanında depolayarak bulut sistemleri için optimize edildi. Bu yaklaşım, belirli kullanıcılar veya uygulamalar için vektör veritabanı arama performansını dinamik olarak ayarlıyor ve fiziksel sunucular arasında arama örneklerinin hızlı geçişini kolaylaştırıyor.
KIOXIA Europe GmbH Baş Teknoloji Sorumlusu ve Başkan Yardımcısı Axel Stoermann, “KIOXIA AiSAQ™ çözümü, temelde flaş tabanlı SSD'lere dayanan Generative AI Sistemlerinde RAG uygulamalarının neredeyse sonsuz ölçeklendirilmesinin önünü açıyor” dedi ve ekledi: “SSD tabanlı ANNS kullanarak, önde gelen bellek içi çözümlerin performans ihtiyaçlarını karşılarken maliyetli DRAM'e olan bağımlılığı azaltıyoruz ve büyük ölçekli RAG uygulamalarının performans aralığını önemli ölçüde artırıyoruz.”
KIOXIA, yenilikçi
www.kioxia.com
