BiVelio Embedding Layer Algorithm
Bằng chứng tốt nhất, với ít embeddings và ít tokens hơn.
BV-EMLA biến các tài liệu và một truy vấn thành một gói bằng chứng liên quan tối thiểu. Nó giảm chi phí tạo embeddings, lưu trữ chỉ mục và gửi ngữ cảnh đến mô hình, đồng thời giữ nguyên danh tính, phiên bản, metadata và khả năng truy vết của mỗi tài liệu. Nó không bắt buộc tạo ra câu trả lời: nó chuẩn bị bằng chứng tốt nhất để bất kỳ ứng dụng nào —với OpenAI, Anthropic, Gemini hoặc một mô hình cục bộ— có thể sử dụng.
BV-EMLA được thiết kế như một sản phẩm hoàn toàn độc lập. Nó không cần Brain của BiVelio, không cần tài khoản, không cần cơ sở dữ liệu hay các mô hình nội bộ của nó. BiVelio sau này sẽ là một trong những bên sử dụng nó, chứ không phải môi trường mà nó cần để hoạt động.
- 1
Nạp dữ liệu: chuẩn hóa, khử trùng lặp theo cách đã kiểm chứng và cắt nhỏ tài liệu.
- 2
Biểu diễn: tái sử dụng embeddings từ bộ nhớ đệm hoặc chỉ tạo những phần còn thiếu.
- 3
Truy xuất thích ứng: chọn phương án rẻ nhất đạt đủ bằng chứng.
- 4
Soạn hợp: cung cấp ngữ cảnh tối thiểu bao phủ truy vấn, kèm dấu vết và số liệu.
EMLA Compile
Chuyển một tập hợp tài liệu thành một biểu diễn hiệu quả và có thể kiểm chứng: chuẩn hóa, phát hiện bản trùng và gần-trùng theo cách đã được kiểm chứng, cắt nhỏ theo cấu trúc và tái sử dụng hoặc tạo embeddings. Mười bản sao của cùng một cẩm nang chia sẻ một biểu diễn kỹ thuật duy nhất, mà không đánh mất danh tính của từng tài liệu.
EMLA Resolve
Nhận một truy vấn và chọn mức độ nỗ lực cần thiết. Một câu hỏi đơn giản dùng cách tìm kiếm rẻ; một câu hỏi phức tạp bổ sung truy xuất dày đặc, reranking và mở rộng. Bạn chỉ trả chi phí cao khi truy vấn đòi hỏi, và kết quả là tập hợp nhỏ nhất bao phủ toàn bộ câu hỏi.
Ít embeddings lặp lại hơn và ít lưu trữ hơn.
Ít tokens ngữ cảnh gửi đến mô hình hơn.
Chỉ mục và nhà cung cấp có thể hoán đổi; chế độ cục bộ không cần hạ tầng bên ngoài.
Khả năng truy vết và số liệu của mỗi lần truy xuất.
Đang thiết kế dưới dạng thư viện độc lập (Python SDK và API HTTP). Trước tiên sẽ được kiểm định bằng benchmarks trung lập; sau đó tích hợp vào BiVelio thông qua một bộ chuyển đổi.
Thuật toán đang trong quá trình thiết kế. Các con số về hiệu năng và tiết kiệm sẽ được công bố khi chúng tôi hoàn tất benchmarks; cho đến lúc đó chúng tôi không khẳng định bất kỳ tỷ lệ phần trăm nào.