推論系統41 分鐘降低每個 Token 的生成成本以搬移的位元組數估出 decode 時間下限,再檢驗量化、推測式解碼與注意力 kernel 實際省下什麼。#Quantization#Speculative Decoding#Attention Kernels+2 更多Huang Tzu Lin2026/11/3