林醫師問:如何建構軟硬體
該買什麼硬體?先看我實際在用的
誠實說——重點
不是
買一台多強的機器來「本地跑 AI」。我的主力機其實很普通;真正該花錢的地方在別處。
我的主力機(就這台)
Mac mini (2024)・Apple M4 Pro(14 核 CPU/20 核 GPU)
64GB 統一記憶體
2TB SSD・10Gb 乙太網路
一台桌機等級——沒有工作站、沒有顯卡農場
當初 Apple 訂製約 NT$92,900
53,900 基本 + 64GB 記憶體 18,000 + 2TB SSD 18,000 + 10GbE 3,000
我踩過的雷(實測心得)
即使 64GB,
跑 local LLM 不切實際
:慢、吃滿記憶體、不穩
跑
大量 MinerU 仍會 memory leak
→ 想靠本地硬體跑大模型,CP 值極低。別把預算砸在這。
那錢該花在哪?(呼應開場心法)
心法 1
你的資料
corpus 才是本體、別人拿不走。這是唯一值得長期累積的資產。
硬體
一台可靠的常開機
不是最強,是
最穩、不關機
——讓 agent 隨時在線收訊息、做事。
心法 4
備份 + git
硬碟會壞,備份是底線;在意「何時改了什麼」就上 git。
大腦(模型)
隨時可換成雲端最強的
;硬體只要「夠常開、跑得動 agent、存得下你的資料」就好。
別為了本地跑模型買貴硬體——那筆錢該投在資料和不關機。