MWC Barselona 2026 sırasında düzenlenen Huawei Ürün ve Çözüm Lansmanı'nda, Huawei Veri Depolama Ürün Grubu Başkanı Yuan Yuan, Huawei'nin AI Veri Platformu'nu resmi olarak tanıttı.
PRNewswire / BARSELONA, İspanya (İGFA) - Platform, bilgi oluşturma ve geri çağırma teknolojilerini, çıkarım hızlandırma için KV önbelleğini, bellek çıkarma ve geri çağırmanın yanı sıra Birleşik Önbellek Yöneticisi'ni (UCM) entegre eder. Modeller ve iş değeri arasındaki boşluğu doldurur.
Hızlı yapay zekâ gelişmesine rağmen, çoğu yapay zekâ modeli temel hizmetlere tam olarak entegre edilmemiştir. Bu durum büyük ölçüde, modelin benimsenmesinin anahtarı olan çıkarımdan ziyade eğitime odaklanılmasından kaynaklanmaktadır. Yapay zekâ halüsinasyonları, yavaş yanıt ve çıkarımdaki verim kısıtlamaları gibi zorlukların üstesinden gelmek için iyileştirilmiş veri işleme gereklidir.
Huawei Veri Depolama, bu zorlukların üstesinden gelmek için '3+1' Yapay Zekâ Veri Platformunu resmi olarak piyasaya sürdü:
- Daha doğru arama için yüksek doğruluklu multimodal bilgi ile bilgi üretimi ve geri getirme.
Multimodal kayıpsız ayrıştırma ve token düzeyinde kodlama yoluyla multimodal kaynakları yüksek doğrulukta bilgiye dönüştürür ve %95'in üzerinde bir geri alma doğruluğu sağlar.
- Daha hızlı ve daha verimli çıkarım için geçmiş bellek verilerini kullanan çıkarım hızlandırma için KV önbelleği
Bağlam penceresini büyük ölçüde genişletmek ve tekrarlanan hesaplamayı azaltmak için KV önbelleği için akıllı katmanlama ve yönetim uygular. Bu, ilk token zamanının (TTFT) %90 oranında azalmasını sağlayarak yapay zekâ yanıtlarının hızını önemli ölçüde artırır.
- Modelleri kullanımla daha akıllı hale getirmek için bağlam bellek yönetimi ile bellek çıkarma ve geri çağırma
Geçmiş verileri ve deneyimleri doğru bir şekilde çıkarabilir ve bunları geri çağrılabilir anılara dönüştürebilir. Bu hafıza mekanizması, modelleri kullanımla birlikte daha akıllı hale getirir.
- Yaşam döngüsü boyunca bellek verilerini yönetmek ve planlamak için UCM
Bilgi tabanını, KV önbelleğini ve bellek bankasını akıllıca planlamak için bellek verilerini üç önbellek düzeyinde yönetir.
Huawei AI Veri Platformu, yeni kurulumlar için cihaz modu ve gelişen kurulumlar için bağımsız mod sunar. Cihaz modu OceanStor A800 sistemini kullanır. Bu, üstün performans ve esnek ölçeklenebilirlik sağlar. Bağımsız mod, AI veri motoru düğümleri + OceanStor Dorado depolama mimarisini kullanır. Mevcut sistemleri yükseltmek, önceki yatırımları korumak ve işletmeler için sorunsuz yapay zekâ dönüşümü sağlamak için veri motoru düğümleri eklenebilir.
'Huawei, teknolojik inovasyonu derinleştirmeye devam edecek. Yapay Zekâ Veri Platformu'nun bir köprü görevi görmesiyle, model yeteneklerini gerçek iş değerine dönüştüreceğiz,' dedi Yuan Yuan.