林醫師問:如何建構軟硬體

該買什麼硬體?先看我實際在用的

誠實說——重點不是買一台多強的機器來「本地跑 AI」。我的主力機其實很普通;真正該花錢的地方在別處。
我的主力機(就這台)
  • Mac mini (2024)・Apple M4 Pro(14 核 CPU/20 核 GPU)
  • 64GB 統一記憶體
  • 2TB SSD・10Gb 乙太網路
  • 一台桌機等級——沒有工作站、沒有顯卡農場
當初 Apple 訂製約 NT$92,90053,900 基本 + 64GB 記憶體 18,000 + 2TB SSD 18,000 + 10GbE 3,000
我踩過的雷(實測心得)
  • 即使 64GB,跑 local LLM 不切實際:慢、吃滿記憶體、不穩
  • 大量 MinerU 仍會 memory leak
→ 想靠本地硬體跑大模型,CP 值極低。別把預算砸在這。
那錢該花在哪?(呼應開場心法)
心法 1
你的資料

corpus 才是本體、別人拿不走。這是唯一值得長期累積的資產。

硬體
一台可靠的常開機

不是最強,是最穩、不關機——讓 agent 隨時在線收訊息、做事。

心法 4
備份 + git

硬碟會壞,備份是底線;在意「何時改了什麼」就上 git。

大腦(模型)隨時可換成雲端最強的;硬體只要「夠常開、跑得動 agent、存得下你的資料」就好。別為了本地跑模型買貴硬體——那筆錢該投在資料和不關機。