你有沒有這種經驗：想在自己的 Mac 上跑本地 AI，結果一路查下去，冒出一堆名詞，MLX、Ollama、GGUF、量化，看得你頭很痛，最後根本分不清誰是誰？這篇我幫你一次講清楚，尤其是那個最常被誤會的主角，MLX。
一句話總結：MLX 是蘋果幫自家晶片（M 系列）寫的「AI 運算引擎」，它自己不會講話，一定要配一個模型（像 Qwen）才會動。它跟 Ollama 是同一類的競爭對手，不是互補的零件。
MLX 是什麼？蘋果晶片的 AI 引擎，不是模型
這是九成人卡住的地方，先講在前面。很多人以為 MLX 是一種可以拿來聊天的 AI 模型，跟 Qwen、Llama 是同一種東西，其實不是。MLX 是蘋果的機器學習團隊，專門為 Apple Silicon（就是你 Mac 裡的 M1、M2、M4 這些晶片）寫的一套運算框架。
講白話，它是「引擎」，不是「大腦」。我常拿主機和遊戲來比喻：如果 Qwen 是一張「遊戲光碟」（裡面才有內容、知識、會講的話），那 MLX 就是「主機裡負責讀光碟、把畫面用最快速度算出來的核心」。你不會拿 PlayStation 主機當遊戲玩，對吧？MLX 也一樣，它是負責「跑」的那個東西，不是被跑的內容。
既然 MLX 是引擎，結論就很清楚，只有 MLX 什麼都做不了。我實際在自己機器上驗證過，剛裝好 MLX 的當下去看它的模型資料夾，是空的，一個都沒有，這代表你買了一台主機，但還沒放進任何一張遊戲光碟，開機只會看到一片黑。它什麼時候才會有模型？只有當你下指令、指定要哪個模型的那一刻，它才會去 Hugging Face 把模型檔下載回來，在那之前 MLX 手上是空的。所以請記住這句，MLX 是主機，模型是光碟，主機永遠不能取代光碟。
MLX 和 Ollama 差在哪？是競爭對手，不是互補
這題最容易被網路文章帶歪，很多教學會告訴你「Ollama 底層會借用 MLX 的力量」，讓你以為裝了 MLX 可以幫 Ollama 加速。我幫你把話講直白，它們是同一層、互相競爭的東西，不是疊在一起的。
Ollama 有它自己的引擎，不是 MLX。你現在用 Ollama 跑模型能跑，靠的就是 Ollama 自帶的那套。MLX 則是另一套獨立的跑法，它不會插進 Ollama 裡讓 Ollama 變快。用比喻講，Ollama 和 MLX 是兩個不同牌子的主機，你家已經有一台能玩了，MLX 是另一台，多擺一台不會讓你原本那台變快，它就只是「另一台」而已。
MLX 的模型格式和 GGUF 不通用
假設你被我說服，想拿現在 Ollama 裡的 Qwen 直接搬去 MLX 跑、省得重抓，抱歉這條路不通。原因是「光碟格式」不一樣：
- Ollama 裡的 Qwen 是 GGUF 格式，它的量化版叫 Q4_K_M 這種。
- MLX 要讀的 Qwen 是 MLX 自己的格式，叫 4bit、8bit。
同一款遊戲，但兩種光碟片不通用，就像 PS 的片不能插進 Xbox。所以你想在 MLX 上跑 Qwen，得另外再下載一份 MLX 版的 Qwen，不能共用 Ollama 那份。多下載一次、多佔一份硬碟，這是逃不掉的。
MLX 怎麼吃記憶體？和 Ollama 的差別
這一段沒人跟你講，但很重要，因為它決定你的 Mac 會不會被佔滿。Ollama 的做法很聰明，它是背景服務，開機自動就緒，呼叫地址永遠都在，而且用完會自動放掉記憶體，閒置大約 5 分鐘沒人叫，它就把模型踢出去，要用時再自動載回，你完全不用管。
MLX 伺服器呢？我實測是這樣，你手動開起來之後，它從開到關一直佔著記憶體（跑一顆 27B 大概吃十幾 GB），不會自己放，而且關機或重開機之後，它不會自動起來，你得重新下指令。一句話分辨，Ollama 像個隨叫隨到、沒事就自己去休息、不佔位子的員工，MLX 伺服器像個一旦上工就一直站著佔位子、你不趕他他不走的員工。
MLX 對決 Ollama 速度實測（M4 Max）
講了半天，直接上數據，我用自己的 Mac mini（M4 Max、64GB），跑同一顆 Qwen3.8-27B 的 4bit 版，做了一場公平對決。公平的意思是：同一顆模型、同一句提示、都生成剛好 256 個字、關掉隨機性、兩邊給一樣大的記憶空間、都先暖好機，而且每測完一次就休息 5 分鐘讓晶片降溫，不然機器一熱就降速，數字會越測越難看。結果三輪下來幾乎零波動：
- MLX：約 26.8 字／秒
- Ollama：約 9.7 字／秒
換算成你有感的，寫完一篇約 400 字的文章，MLX 大概 9 秒半，Ollama 要 26 秒。MLX 快了差不多 2.8 倍，記憶體還略省一點。為什麼差這麼多？因為這顆是很新的架構，蘋果原生的 MLX 對它優化得比 Ollama 的後端好。這點以後 Ollama 更新可能會追上，但就現在這個時間點，MLX 贏。
MLX 還是 Ollama？該怎麼選
我不喜歡講那種「看情況」的話，直接給你判斷：
- 你追求極速、而且要一次跑特別大量的任務，例如一口氣幾千篇文章轉結構化資料，那 MLX 值得，2.8 倍就是 8 小時變 3 小時，差很多。
- 你要的是省心、穩定、整套流程都已經接好，那就留在 Ollama，它自動管理記憶體、開機自動就緒、地址永遠在，你不用當保母。
我自己的建議是，主力留 Ollama，哪天遇到一個量特別大又趕時間的任務，再把那一個任務單獨切去 MLX 跑，享受那 2.8 倍。兩套並存，各做各擅長的事。
mlx-whisper：用 MLX 把錄音和影片轉文字
最後補一個很多人不知道的，MLX 不是只能跑語言模型，它旁邊還有一個叫 mlx-whisper 的工具，專門把錄音或影片的聲音在本機轉成文字稿。免費、快、完全不外流，你有訪談、有會議錄音、有影片要上字幕，丟給它在本機跑就好，不用付雲端字幕服務的錢。這個才是 MLX 生態裡，對一般人最實在的一個收穫。
MLX 不是什麼高深的黑魔法，它就是蘋果幫自家晶片寫的一罐「原廠機油」，你得先有一台車（模型），機油才有意義，沒車再好的機油也只是放在那裡。搞懂「引擎不是大腦、光碟不是主機」這兩件事，你就不會再被那堆名詞唬住了。
