·26 min read
Dynamic Batching liên tục trong suy luận LLM: Điểm chuẩn độ trễ của Orca, vLLM & TGI
Hướng dẫn toàn diện về dynamic batching liên tục trong suy luận LLM: điểm chuẩn độ trễ của Orca, vLLM & TGI với kiến trúc cấp độ sản xuất và ví dụ mã.
Technical Writings
Stories, tutorials, and deep dives spanning across diverse worlds.
Top Topics
25Showing 1–10 of 10 articles
·21 min read
Linux cgroups v2 trong Kubernetes: PSI Pressure Stall Information, Memory Throttling & OOM Shields
Hướng dẫn toàn diện về linux cgroups v2 trong kubernetes: psi pressure stall information, memory throttling & oom shields với kiến trúc và ví dụ code cấp độ sản xuất.
·21 min read
AI giọng nói thời gian thực: Chuyển đổi giọng nói Whisper trực tiếp bằng WebRTC & WebSockets trong Rust
Hướng dẫn toàn diện về AI giọng nói thời gian thực: chuyển đổi giọng nói Whisper trực tiếp bằng WebRTC & WebSockets trong Rust với kiến trúc cấp độ sản xuất và các ví dụ mã.
·20 min read
NVMe-over-TCP trong Sản xuất: Kiến trúc Kernel Linux, SPDK & Lưu trữ Kubernetes Hiệu suất cao
Hướng dẫn toàn diện về nvme-over-tcp trong sản xuất: kiến trúc kernel linux, spdk & lưu trữ kubernetes hiệu suất cao với kiến trúc cấp độ sản xuất và các ví dụ mã.
·18 min read
I/O Linux thông lượng cao trong Rust: io_uring, Tokio & Zero-Copy Networking
Hướng dẫn toàn diện về I/O Linux thông lượng cao trong Rust: io_uring, Tokio & zero-copy networking với kiến trúc và ví dụ code cấp độ sản xuất.
·24 min read
WASI 0.2 & WebAssembly Component Model: Microservices độc lập ngôn ngữ & Giao diện WIT
Hướng dẫn toàn diện về WASI 0.2 & WebAssembly Component Model: microservices độc lập ngôn ngữ và giao diện WIT với kiến trúc cấp độ sản xuất và ví dụ code.
·25 min read
Zig cho Lập trình viên hệ thống: Bộ cấp phát bộ nhớ tường minh, Comptime & Tương tác C ABI
Hướng dẫn toàn diện về Zig dành cho lập trình viên hệ thống: bộ cấp phát bộ nhớ tường minh, comptime và tương tác C ABI với kiến trúc và ví dụ code cấp độ sản xuất.
·25 min read
Bằng chứng không kiến thức trong Rust & Circom: Xác minh SnarkJS & Hướng dẫn sản xuất
Hướng dẫn toàn diện về bằng chứng không kiến thức trong Rust & Circom: xác minh SnarkJS & hướng dẫn sản xuất với kiến trúc cấp độ sản xuất và các ví dụ mã.
·22 min read
ScyllaDB so với Apache Cassandra năm 2026: Độ trễ P99, C++ Seastar & Các điểm chuẩn TCO
Hướng dẫn toàn diện so sánh ScyllaDB với Apache Cassandra năm 2026: độ trễ P99, C++ Seastar và các điểm chuẩn TCO với kiến trúc cấp độ production và các ví dụ mã.
·18 min read
eBPF trong Môi Trường Production: Quan Sát Hệ Thống Linux Với Overhead Cực Thấp, Tracing và Profiling Nhân Hệ Điều Hành
Triển khai quan sát nhân Linux (kernel observability) với overhead gần như bằng không bằng eBPF. Đo độ trễ system call, theo dõi cấp phát bộ nhớ và giám sát socket mạng mà không cần sidecar.