agentic LLM:對話式 vs 代理式

兩條軸,別綁在一起看

你過去用的 AI,以最新前沿角度看,叫「傳統對話式 LLM」

正名:兩條獨立的軸,別綁一起

第一條軸 — 怎麼「用」?
對話式你問、它答(在視窗裡聊天)
代理式 agentic會用工具、讀寫檔案、跑指令、自己做多步
第二條軸 — 怎麼「算錢」?
包月(固定月費)像手機「月租型」:付固定月費(仍有週用量上限)
按量計費像跳錶/計量:用多少、算多少(跟「API」=程式直接呼叫程式的介面 無關,免費 API 也很多)

一個講「怎麼用」、一個講「怎麼算錢」——是兩條各自獨立的軸。常見誤會,是把它們綁成一條線。

把兩軸拆開,誤會就消失了

常見誤會

「月費訂閱 = 只能對話式」
「要 agentic = 一定得用 API」

實際上

月費訂閱也能 agentic
API 不等於 agentic

我的主力是 Claude Code on Max——月費訂閱方案,但全程 agentic:它自己讀檔、跑指令、改檔、串多步。計費方式使用方式 是兩回事。

會很吃設備嗎?先拆成兩件事

模式運算在哪資料存哪吃你硬體
訂閱問答(ChatGPT/Gemini)雲端它家
我的 agentic雲端自己硬碟
租雲空間雲端租的雲
本機 LLM(Ollama)你的機器自己硬碟

只有「本機跑 LLM」才吃硬體

所以「玩 agentic 要先買一台 GPU 工作站」是個誤解。運算在雲端,你的機器只負責放資料

真正的差異化:你的 KB,在自己手上嗎?

Sandbox 訂閱 chat

  • 知識在他家伺服器
  • 對話綁帳號
  • 不能 grep、不能 cite
  • 換 LLM 廠商就失效
  • 公司 sunset 你死定

自己的 KB pipeline

  • 知識在自己硬碟
  • grep
  • 可 cite
  • 任何 LLM 都能讀
  • 跟廠商解綁

差異化不在「用哪個 LLM」,在「你的 KB 在不在自己手上」——握在自己手裡,還是綁在別人家伺服器。

FAQ:訂閱那家倒了怎麼辦?

資料是你的、在你硬碟,引擎隨時換(Claude → GPT → Gemini → Llama),核心資產不動

這就是把 KB 留在自己手上的意義:你換的是引擎,不是家當