Technical Writings

Bộ nhớ đệm ngữ nghĩa với Redis và Qdrant để giảm chi phí LLM

Bản thiết kế kiến trúc để xây dựng các lớp bộ nhớ đệm ngữ nghĩa hiệu suất cao với Redis và Qdrant nhằm giảm 80% độ trễ API LLM và chi phí token.