01 / 理解模型4 篇（含先備）
語言模型究竟在做什麼？
先釐清 token、上下文與證據的界線。
Thehotel
has62%offers25%is13%
下一個 token 的候選 · 教學示意查看這條路線
- 00-1語言模型如何生成文字
- 00-2提示詞、Token 與上下文
- 00-3為何流暢的回答仍會出錯
- 00-4從模型輸出到受控動作
OPTIVERSE 系統工程誌
看懂 AI，
從原理走到實作。
給想理解、打造與維運 AI 系統的人。透過有來源的解說、可操作的圖解與實作練習，學會判斷系統為何成功，又在哪裡失敗。
25 篇教學雙語閱讀實作練習
從一個問題開始
完整閱讀路線02 / 打造應用17 篇（含先備）
如何讓回答與操作更可靠？
串起來源、驗證、授權與故障復原。
KYO-H12 / RATE$240 / 晚四月適用
來源支持的回答四月每晚 $240[RATE]
查看這條路線
03 / 執行推論10 篇（含先備）
請求如何消耗時間與記憶體？
觀察排程、KV 快取與 GPU 配置的取捨。
825 tokens832 個已配置位置
有效資料末端空間
最後 8 個區塊示意 · 每區塊 16 tokens查看這條路線
- 00-1語言模型如何生成文字
- 00-2提示詞、Token 與上下文
- I-00拆解一次 LLM 推論請求
- I-01連續批次處理
- I-02管理 KV 快取
- I-06將模型分配到多張 GPU
- I-04前綴快取與請求路由
- I-03分離預填充與解碼
- I-05部署混合專家模型
- I-07量測推論容量
依先備關係排序；不同路線會共用基礎文章。
探索文章
選一個概念，開始探索。
每篇都有解說、互動圖解與實作練習。依主題探索，或沿著閱讀路線前進。
25 篇教學
各主題內依建議閱讀順序排列模型基礎
4 篇理解模型預測什麼、上下文能容納什麼，以及證據與權限為何重要。
可靠 AI 系統
7 篇釐清每個元件的責任，驗證輸出、管理狀態，並在失敗後安全復原。
檢索與證據系統
4 篇找到相關來源、重建文件結構，讓每個回答都有可檢查的證據。
應用架構實作
2 篇把各個環節整合成客服與旅行工作流程，明確處理權限邊界與失敗案例。
推論系統
8 篇沿著請求探索排程、記憶體與 GPU 配置，學習在明確限制下衡量容量。
沒有符合的文章。請更換關鍵字，或按「清除篩選」重新開始。
概念關係
看看知識如何連在一起。
概念關係
看看知識如何連在一起。
每個概念都列出先讀內容。需要循序學習時，請使用完整閱讀路線。
00-1語言模型如何生成文字
可直接從這篇開始。
閱讀本篇 ↗