·32 min read
LLM推論における連続動的バッチ処理：Orca、vLLM、TGIのレイテンシベンチマーク
LLM推論における連続動的バッチ処理について、Orca、vLLM、TGIのレイテンシベンチマークを、本番環境レベルのアーキテクチャとコード例で網羅的に解説する総合ガイドです。
Technical Writings
Stories, tutorials, and deep dives spanning across diverse worlds.
Top Topics
27Showing 1–10 of 10 articles
·28 min read
KubernetesにおけるLinuxcgroupsv2:PSI、メモリ制限、OOMシールド
KubernetesにおけるLinuxcgroupsv2のPSI(PressureStallInformation)、メモリ制限、OOMシールドについて、本番環境レベルのアーキテクチャとコード例を交えて解説する包括的なガイド。
·24 min read
リアルタイム音声AI: RustでWebRTCとWebSocketを使ったWhisperのストリーミング転写
本ガイドでは、RustでWebRTCとWebSocketを使ったWhisperのストリーミング転写によるリアルタイム音声AIについて、本番環境レベルのアーキテクチャとコード例を交えて解説します。
·24 min read
NVMe-over-TCPを本番環境で使う：Linuxカーネルアーキテクチャ、SPDK、高IOPS Kubernetesストレージ
本番環境でのNVMe-over-TCP、Linuxカーネルアーキテクチャ、SPDK、高IOPS Kubernetesストレージを、実用的なアーキテクチャとコード例を交えて解説する包括的なガイドです。
·23 min read
Rustでの高スループットLinux I/O: io_uring、Tokio、ゼロコピーネットワーキング
Rustにおける高スループットLinux I/Oを網羅したガイド。io_uring、Tokio、ゼロコピーネットワーキングを本番環境レベルのアーキテクチャとコード例で解説します。
·30 min read
WASI0.2とWebAssemblyComponentModel:言語非依存のマイクロサービスとWITインターフェース
WASI0.2とWebAssemblyComponentModelについて、言語非依存のマイクロサービスやWITインターフェースを、本番環境レベルのアーキテクチャとコード例で網羅的に解説する包括的なガイドです。
·31 min read
システムプログラマーのためのZig: 明示的なメモリアロケーター、Comptime、C ABI相互運用
システムプログラマー向けに、Zigの明示的なメモリアロケーター、comptime、C ABI相互運用を、実用レベルのアーキテクチャとコード例で網羅的に解説するガイドです。
·31 min read
RustとCircomによるゼロ知識証明：SnarkJS検証と本番環境ガイド
RustとCircomにおけるゼロ知識証明を網羅したガイドで、SnarkJS検証と本番環境向けアーキテクチャおよびコード例を解説します。
·27 min read
2026年版ScyllaDB対ApacheCassandra: P99レイテンシー、C++Seastar、TCOベンチマーク
2026年におけるScyllaDBとApacheCassandraを比較する包括的なガイドで、P99レイテンシー、C++Seastar、TCOベンチマークを本番環境レベルのアーキテクチャとコード例と共に解説します。
·19 min read
本番環境におけるeBPF：低オーバーヘッドなLinuxオブザーバビリティ、トレーシング、カーネルプロファイリング
eBPFを使用して、オーバーヘッドを最小限に抑えたLinuxカーネルのオブザーバビリティを実装します。システムコールのレイテンシ測定、メモリ割り当ての追跡、サイドカーなしでのネットワークソケット監視を解説します。