agentic 鐵律:沒查 corpus,我不採信

corpus-first(先查自己的知識庫)— 讓 AI 的答案「可被查證」的前提

我的一條鐵律

agent 回醫學問題,
沒先查我的 corpus,
我根本不採信。

不是不信 AI——是不信「沒有來源的流暢答案」。答得漂亮,跟答得可信,是兩回事。

為什麼這條鐵律

沒查 corpus

答案來自 LLM 訓練記憶
→ 可能 hallucinate(評測誘因讓它傾向猜,不傾向說「不知道」)
→ 漂亮,但無法查證

先查 corpus

答案錨定在我讀過的全文(proofread 入庫)
→ 有來源、可標出處(cite)、可驗證
→ 隨機的創作 + 確定的來源

這正是前面〈LLM hallucination〉的對策:與其求模型「不要錯」,不如要求它「先查、附來源」。

怎麼執行:三步

  1. 收到醫學問題 → 先在庫內搜尋(grep)——已校對(proofread)入庫的全文
  2. 庫內 → 附來源(書/章/DOI)回答
  3. 庫內 → 明說「庫內無此來源,需查證」→ 不臆測、不硬答

「我不知道」是合法、甚至更專業的答案。能誠實說不知道的 AI,比硬掰一個漂亮答案的 AI 可信得多。

這也是今天 demo 的準則

所以這場 demo 的看點,不是「AI 多會講」,是「AI 在不確定時,守不守得住」。

帶走這一句

corpus-first 不是限制 AI,是讓 AI 從「會講」變成「可信」。

隨機的創作,配上確定的來源——才是專業者敢拿來做衛教的 AI。