AI 系統架構30 分鐘
打造旅遊 Copilot:端對端架構、核准閘門(Approval Gate)與稽核能力(Auditability)
當一個團隊準備建構進階 AI 旅遊 Copilot 時,真正的難題不是「用哪個模型」,而是「在系統能被正式環境信任之前,什麼事情必須發生、按什麼順序、憑什麼證據、在什麼狀態下、經誰核准?」這是架構問題——模型位於其中,但模型並不能解決這個問題。
Huang Tzu Lin
5 篇文章
當一個團隊準備建構進階 AI 旅遊 Copilot 時,真正的難題不是「用哪個模型」,而是「在系統能被正式環境信任之前,什麼事情必須發生、按什麼順序、憑什麼證據、在什麼狀態下、經誰核准?」這是架構問題——模型位於其中,但模型並不能解決這個問題。
純文字系統一旦證據不再主要是文字,就會失效;在無障礙旅行規劃中,照片、平面圖、路線地圖、圖說和量測資料往往會共同決定答案。
多數團隊第一次接觸文件處理,都是從 OCR 開始。問題看起來很直覺:把頁面轉成文字、為文字建索引,然後讓檢索系統或 LLM 來回答問題。
基本的檢索增強生成(RAG)到現在還是多數正式環境系統最常用的基礎模式。語料庫很大、更新頻繁、又需要展示答案來源?檢索依然是最乾淨的起點。不過實務上會碰到一種極限情境——簡單的 RAG 開始力不從心:系統確實找到了正確的文件,但任務現在需要的是針對一組有限的證據持續推理,同時回答同一案件的多次後續追問。
大型語言模型之所以有用,是因為它們能用流暢的語言綜合、解釋和轉化資訊。但一旦我們要求它們處理即時的、私有的,或需要可驗證依據的資訊,它們就變得不可靠。模型在訓練期間可能看過類似的素材,但這不代表它能存取當前任務需要的那份飯店合約、無障礙稽核或客戶回饋紀錄。