corpus-first(先查自己的知識庫)— 讓 AI 的答案「可被查證」的前提
agent 回醫學問題,
沒先查我的 corpus,
我根本不採信。
不是不信 AI——是不信「沒有來源的流暢答案」。答得漂亮,跟答得可信,是兩回事。
答案來自 LLM 訓練記憶
→ 可能 hallucinate(評測誘因讓它傾向猜,不傾向說「不知道」)
→ 漂亮,但無法查證
答案錨定在我讀過的全文(proofread 入庫)
→ 有來源、可標出處(cite)、可驗證
→ 隨機的創作 + 確定的來源
這正是前面〈LLM hallucination〉的對策:與其求模型「不要錯」,不如要求它「先查、附來源」。
「我不知道」是合法、甚至更專業的答案。能誠實說不知道的 AI,比硬掰一個漂亮答案的 AI 可信得多。
grep corpus(藥理教科書、期刊全文)→ 再回答所以這場 demo 的看點,不是「AI 多會講」,是「AI 在不確定時,守不守得住」。
corpus-first 不是限制 AI,是讓 AI 從「會講」變成「可信」。
隨機的創作,配上確定的來源——才是專業者敢拿來做衛教的 AI。