跳至主要內容

教學總覽 →

讓每個概念都有下一步。

依下列路線學習,會先遇到每篇所需的先備內容。主題系列方便查找;文章 ID 是固定標籤,不是閱讀順序。閱讀到一個頁面不代表已完成先備練習。

只想學推論基礎設施,可讀完 00-1、00-2 後跳至 I-00。應用系統讀者則可在 10 完成後結束,再視需求進入推論路線。每篇開頭標示要帶入的前作、新增產物與後續用途。

建議閱讀路線

  1. 00-1 語言模型如何生成文字

    先讀:無

  2. 00-2 提示詞、Token 與上下文

    先讀:00-1

  3. 00-3 為何流暢的回答仍會出錯

    先讀:00-1 · 00-2

  4. 00-4 從模型輸出到受控動作

    先讀:00-1 · 00-2

  5. 01 設計一套 AI 系統

    先讀:00-3 · 00-4

  6. 02 可靠的管線與驗證

    先讀:01

  7. 04 記憶、狀態與知識

    先讀:00-2 · 01

  8. 05 如何選擇工作流程與代理

    先讀:00-4 · 02

  9. 03 用 RAG 為回答建立證據依據

    先讀:00-3 · 02

  10. 11 評估 AI 系統

    先讀:02 · 03

  11. 12 代理的身分與授權

    先讀:00-4 · 02

  12. 06 代理迴圈與工具可靠性

    先讀:02 · 05 · 12

  13. 07 混合檢索與證據資料包

    先讀:03 · 04

  14. 08 超越 OCR 的文件理解

    先讀:03

  15. 09 多模態證據的定位與查核

    先讀:03 · 08

  16. 00-5 實作:可靠的客服工作流程

    先讀:03 · 06 · 11 · 12

  17. 10 實作:建立受控的旅行 Copilot

    先讀:06 · 09 · 11 · 12

  18. I-00 拆解一次 LLM 推論請求

    先讀:00-1 · 00-2

  19. I-01 連續批次處理

    先讀:I-00

  20. I-02 管理 KV 快取

    先讀:I-00

  21. I-06 將模型分配到多張 GPU

    先讀:I-00 · I-02

  22. I-04 前綴快取與請求路由

    先讀:I-01 · I-02

  23. I-03 分離預填充與解碼

    先讀:I-01 · I-02 · I-04 · I-06

  24. I-05 部署混合專家模型

    先讀:I-06

  25. I-07 量測推論容量

    先讀:I-01 · I-02 · I-03 · I-06

選讀練習:來源檢查與重試處理

這份教學用 Python 範例以虛構旅行資料,示範來源檢查、關鍵字檢索與逾時後的查核。英文與繁體中文的詞彙對應來自手寫字典;模擬供應商只會在本機 SQLite 資料庫建立紀錄。

身分與核准皆由程式模擬;不會執行語言模型、呼叫訂房服務或付款。它適合觀察程式流程與重複操作的處理,無法證明正式 AI 系統的品質或安全性。

下載 Python 練習檔案(含中英說明)

python3 lab.py all --out out
python3 -m unittest discover -s . -v

需要 Python 3.9+。解壓縮後,在 travel-copilot 目錄執行。程式輸出 JSON;confirmed 僅表示本機模擬紀錄已建立。使用同一個 out 目錄再執行一次,可檢查是否仍只有一筆紀錄。