KIOXIA, yapay zeka uygulamaları için kritik öneme sahip vektör veritabanı teknolojisinde yeni bir rekora imza attığını duyurdu. Açıklamaya göre şirket, “KIOXIA AiSAQ” adlı açık kaynaklı teknolojisiyle tek bir sunucu üzerinde 4,8 milyar yüksek boyutlu vektör araması gerçekleştirmeyi başardı. NVIDIA ile yapılan iş birliği sayesinde, devasa veri setlerinin endeksleme sürelerinde 7,8 kata varan hızlanma sağlandığı belirtildi.
Yapay zeka ve RAG (Arama Destekli Metin Üretimi) çözümlerinde milyarlarca veri arasında benzerlik araması yapmak, geleneksel yöntemlerde aşırı yüksek maliyetli DRAM kullanımını zorunlu kılıyordu. KIOXIA AiSAQ teknolojisi, aramaları doğrudan SSD üzerinden gerçekleştirerek DRAM kullanımını minimize ediyor. Bu yöntem, veritabanı ölçeklendirmesini daha ekonomik hale getirirken, tek bir sunucu üzerinden milyarlarca vektöre erişim imkânı tanıyarak altyapı karmaşıklığını azaltıyor.
Endeksleme süresi haftalardan günlere indi
Büyük ölçekli vektör veritabanlarında en büyük sorunlardan biri olan “endeks oluşturma süresi”, NVIDIA’nın GPU tabanlı cuVS kütüphanesi ile aşılabiliyor. Yapılan testlerde, CPU kullanılarak 28,4 gün süren endeks oluşturma işlemi, dört adet NVIDIA Hopper GPU yardımıyla 1,4 güne indirilmiş durumda. Uçtan uca testlerde ise 31 günlük işlem süresi 4 güne düşürülerek 7,8 katlık bir hız artışı elde ediliyor. Bu gelişme, trilyonlarca vektöre ulaşması beklenen gelecekteki yapay zeka modelleri için operasyonel bir dönüm noktası olarak değerlendiriliyor.
