#Prefix Caching

路由推論請求時，平衡前綴重用、佇列負載、相容性與租戶隔離。