RAG 是什麼?白話搞懂檢索增強生成,AI 的「Open Book」

RAG 是什麼?一句話:它是一套讓 AI「先去查資料、再回答」的方法,這樣它就不會只憑記憶亂掰,講出來的東西有憑有據。你最近如果一直在 ChatGPT、Perplexity、Google AI 摘要裡看到這三個字母,這篇我用最白話的方式,把 RAG 到底是什麼、怎麼運作、能拿來做什麼,一次講清楚。

一句話總結:RAG 就是「Open Book」版的 AI,答題前先翻你給它的那本書,答案才準、才不會唬爛。

RAG 是什麼?

RAG 的全名是 Retrieval Augmented Generation,中文叫「檢索增強生成」。名字很饒舌,但拆開就三件事:Retrieval(檢索,先去找資料)、Augmented(增強,把找到的資料塞給 AI 當參考)、Generation(生成,AI 根據參考寫答案)。合起來就是:AI 在回答你之前,先去一個資料庫把相關的內容撈出來,讀完再回答。

你可以把一般的 AI 想成「Closed Book」,它只能靠訓練時背下來的東西答題,遇到沒背過、或記錯的,就開始唬爛,這就是大家常聽到的「AI 幻覺」。RAG 則是把它變成「Open Book」,答題前先翻一本你指定的書,答案有出處、也不容易掰錯。差別就這麼直觀。

RAG 解決什麼問題?為什麼突然大家都在講

一般的大型語言模型有三個先天的痛:第一,它會唬爛,不知道的也講得煞有其事。第二,它的知識有「賞味期限」,訓練資料切在某個時間點,之後發生的事它不知道。第三,它看不到你公司內部、你私人的資料,因為那些根本沒進它的訓練集。

RAG 一次補這三個洞:你把「即時的、私有的、正確的」資料放進一個資料庫,讓 AI 每次回答前都先去翻,它就能講出最新的事、講出你公司文件裡的內容,而且因為答案是「照著資料寫的」,唬爛的機率大幅下降。這也是為什麼企業導 AI 幾乎都繞不開 RAG。

RAG 怎麼運作?三個步驟拆給你看

照著它的名字走就懂了,一次三步:

  • 檢索(Retrieval):你問一個問題,系統先把你的問題轉成一串數字(叫「向量」,下一段解釋),拿去資料庫裡找「意思最接近」的幾段內容。
  • 增強(Augmented):把找到的那幾段內容,連同你原本的問題,一起打包丟給 AI,等於先塞一疊小抄給它。
  • 生成(Generation):AI 根據這疊小抄寫出答案,通常還能附上是從哪一段資料來的,方便你核對。

打個比方,這整套就像你去問一個很厲害的圖書館管理員問題。他不會憑印象亂答,而是先衝到書架把相關的幾本書抽出來、翻到對的那幾頁,再根據那幾頁回答你,還會告訴你「這在第幾本書第幾頁」。RAG 就是幫 AI 裝了這位管理員。

先搞懂地基:向量、Embedding、向量資料庫

RAG 那個「檢索」的步驟,底下靠的是向量。這幾個詞常一起出現,我一次幫你分清楚。

  • 向量:在 AI 裡,一段文字會被轉成「一串數字」,例如 [0.12, -0.83, 1.44, …],這串數字代表這段文字的意思、主題、語氣。意思接近的兩段文字,數字也會接近。
  • Embedding:把文字變成上面那串數字的「轉換過程」,就叫 Embedding(嵌入)。
  • 向量資料庫:專門用來存這些數字、而且能超快找出「哪幾筆意思最接近」的資料庫。它就是 RAG 檢索那步的引擎。

你可能會問,那不是用關鍵字搜尋就好了嗎?差別在這:關鍵字是「字要一樣」才找得到,向量找的是「意思接近」。你問「怎麼退貨」,向量能找到寫著「退換貨流程」的那段,就算它一個「退貨」都沒寫。這種「懂你意思」的搜尋,才撐得起 AI 問答。

RAG 可以拿來做什麼?

知道原理之後,用途就很好想了。幾個最常見的:

  • 企業知識庫問答:把公司的規章、文件、產品手冊丟進去,員工直接問 AI,它照文件回答,不用自己翻。
  • 客服機器人:接上你的常見問題與說明書,讓 AI 回答時有所本,不會亂承諾。
  • 讓 AI 讀你的檔案:把一堆 PDF、報表丟進去,問它裡面的內容。
  • AI 搜尋引擎:你天天在用的 Perplexity、Google AI 摘要,本質上就是超大型的 RAG,先去網路檢索、再生成答案並附連結。

那我直接把檔案貼給 ChatGPT 不就好了?

這是最多人會問的一句,答案是:檔案少、一次性,直接貼沒問題,檔案多、要重複用,就得靠 RAG。你想想,你總不能每次問問題,都把公司那幾百份文件重貼一遍,而且 AI 一次能讀的量(也就是它的「上下文」)有上限,貼太多它根本吃不下,還會愈貼愈貴。RAG 的聰明之處在於,它不是把整座圖書館搬給 AI,而是每次只精準抽出「跟這個問題有關的那幾頁」丟給它,省錢、省時、又抓得到重點。這也是為什麼一到「資料很多、要一直問」的場景,大家就會從「直接貼」換成 RAG。

進階一點:Agentic RAG 是什麼?

傳統的 RAG 是「查一次、生成一次」,問題丟進去、撈一批資料、寫答案,結束。Agentic RAG 則是把 AI 代理的能力加進來,讓它自己判斷:這題要不要查?查一次不夠要不要再查?該去哪個資料庫查?甚至查完發現不對,再換個問法重查。等於從「一問一答的查詢」升級成「會自己規劃怎麼查」的代理。它更聰明,但也更慢、更花錢,適合真的複雜的任務。

RAG 不是萬靈丹:它的限制我也一次講白

這段是我要特別提醒的,因為市面上把 RAG 講得像仙丹的太多了。老實說它有幾個很現實的坑:

  • 垃圾進、垃圾出:RAG 只是「照著你給的資料回答」,你丟進去的資料如果錯、過期、雜亂,它照樣一本正經地講錯,而且因為有「出處」看起來更可信,反而更危險。
  • 幻覺沒有歸零:很多人以為裝了 RAG 幻覺就消失,其實它只是「大幅降低」,不是消滅。檢索沒找到對的東西時,AI 還是可能自己補。
  • 切資料很吃工:文件要怎麼切成一段一段、Embedding 用哪個模型、要撈幾段,這些調不好,檢索品質就差,整套就跟著爛。
  • 成本與延遲:每次回答都多一道檢索,速度會慢一點、也多一份成本,不是每個場景都划算。

所以我的建議是:RAG 很好用,但別把它當「裝了就準」的開關,它比較像「幫 AI 配一個資料來源」,資料本身的品質,還是要你自己顧。

常見問題

RAG 跟微調(fine-tuning)差在哪?

簡單分:RAG 是「給 AI 一本可以隨時翻的書」,資料換了就換書、很好更新,微調是「把知識直接練進 AI 的腦子裡」,改一次要重練、成本高。要即時、常變、私有的資料,用 RAG,要改變模型的風格或固定能力,才考慮微調,兩者也常一起用。

RAG 能完全消除 AI 幻覺嗎?

不能,只能大幅降低,它讓答案「有所本」,但檢索沒撈到對的內容、或資料本身就錯的時候,AI 還是可能掰,這種一本正經亂講的現象就是AI 幻覺。把它想成「大幅減少」而不是「歸零」,你的期待才會對。

不會寫程式,需要懂 RAG 嗎?

需要懂「概念」,不需要會「實作」。你如果是產品經理、行銷、或任何要決定「公司要不要導 AI」的人,懂 RAG 是什麼、限制在哪,你才問得出對的問題、也才不會被廠商唬。實作交給工程師,判斷留給你。

向量資料庫有哪些?

常聽到的有 Pinecone、Weaviate、Milvus、Chroma,還有很多傳統資料庫也加上了向量功能(像 PostgreSQL 的 pgvector)。對一般人來說,你不用記這些名字,只要知道「它們都是拿來存向量、做語意檢索的地基」就夠,選哪一個是工程團隊看規模和成本去決定的事。

講到底,RAG 做的事很樸實:它不是讓 AI 變更聰明,而是讓 AI「有所本」,回答前先去翻該翻的資料。這在「AI 很會講、但你不知道能不能信」的今天,其實是最要緊的一件事。你下次再看到 RAG,就想到那句話,Open Book 的 AI,答案有出處、才敢信。

延伸閱讀

返回頂端