BiVelio Embedding Layer Algorithm
En iyi kanıt, daha az embeddings ve daha az tokens ile.
BV-EMLA, belgeleri ve bir sorguyu asgari bir alakalı kanıt paketine dönüştürür. Her belgenin kimliğini, sürümlerini, meta verilerini ve izlenebilirliğini koruyarak embeddings oluşturma, dizin depolama ve modele bağlam gönderme maliyetini azaltır. Zorunlu olarak bir yanıt üretmez: herhangi bir uygulamanın —OpenAI, Anthropic, Gemini veya yerel bir modelle— kullanması için en iyi kanıtı hazırlar.
BV-EMLA tamamen bağımsız bir ürün olarak tasarlanır. BiVelio'nun Brain'ine, bir hesaba, veritabanlarına ya da dahili modellerine ihtiyaç duymaz. BiVelio daha sonra onun tüketicilerinden biri olacak, çalışması için ihtiyaç duyduğu ortam değil.
- 1
Alım: belgeleri normalleştirir, doğrulanmış biçimde yinelenenleri ayıklar ve parçalara ayırır.
- 2
Gösterim: embeddings'i önbellekten yeniden kullanır veya yalnızca eksik olanları oluşturur.
- 3
Uyarlanabilir geri getirme: yeterli kanıta ulaşan en ucuz planı seçer.
- 4
Kompozisyon: sorguyu kapsayan asgari bağlamı, izlerle ve metriklerle birlikte sunar.
EMLA Compile
Bir belge koleksiyonunu verimli ve doğrulanabilir bir gösterime dönüştürür: normalleştirir, doğrulanmış biçimde yinelenenleri ve neredeyse-yinelenenleri tespit eder, yapıya göre parçalara ayırır ve embeddings'i yeniden kullanır ya da oluşturur. Aynı kılavuzun on kopyası, her belgenin kimliğini kaybetmeden tek bir teknik gösterimi paylaşır.
EMLA Resolve
Bir sorgu alır ve ne kadar çaba gerektiğini seçer. Basit bir soru ucuz bir arama kullanır; karmaşık bir soru yoğun geri getirme, reranking ve genişletme ekler. Yüksek maliyeti yalnızca sorgu gerektirdiğinde ödersiniz ve sonuç, tüm soruyu kapsayan en küçük kümedir.
Daha az tekrarlanan embeddings ve daha az depolama.
Modele gönderilen daha az bağlam tokens'i.
Değiştirilebilir dizinler ve sağlayıcılar; harici altyapı gerektirmeyen yerel mod.
Her geri getirmenin izlenebilirliği ve metrikleri.
Bağımsız bir kütüphane olarak tasarım aşamasında (Python SDK ve HTTP API). Önce tarafsız benchmarks ile doğrulanacak; ardından bir adaptör aracılığıyla BiVelio'ya entegre edilecek.
Tasarım aşamasında algoritma. Performans ve tasarruf rakamları benchmarks tamamlandığında yayımlanacaktır; o zamana kadar yüzde iddiasında bulunmuyoruz.