這是 ai-agent-book 讀書筆記的第四篇。上一篇講的是 Agent 記憶怎么存——存在哪里、存什么、怎么存。這篇進(jìn)入下一個問題記憶和知識怎么取回來。當(dāng)記憶量增長到成千上萬條問題就從怎么存變成了怎么找。檢索增強生成RAG就是解決這個問題的核心技術(shù)——將 LLM 的生成能力與外部知識庫結(jié)合讓模型能利用它訓(xùn)練時沒見過的知識而不需要重新訓(xùn)練。一個最簡單的 RAG 長這樣用戶問退款流程是什么 → 檢索器從知識庫找到退款政策的片段 → 片段注入上下文 → LLM 基于上下文生成答案整個流程就三步檢索相關(guān)片段 → 注入上下文 → 生成答案。接下來沿著這條流水線逐個拆解每個環(huán)節(jié)。標(biāo)準(zhǔn) RAG 流水線文檔分塊長文檔要先切成適合獨立檢索的片段。常見的分塊策略有三種固定大小切分——按固定 token 數(shù)切相鄰塊保留一定重疊避免關(guān)鍵句被截斷。實現(xiàn)簡單但完全無視文檔結(jié)構(gòu)遞歸/結(jié)構(gòu)感知切分——按文檔的自然邊界章節(jié)標(biāo)題、段落、句子遞歸切分先嘗試大邊界超長再降級到小邊界。目前生產(chǎn)系統(tǒng)最常用的默認(rèn)選擇語義切分——計算相鄰句子的嵌入相似度在語義斷崖處下刀使每個塊內(nèi)部主題盡量單一核心權(quán)衡太小則單塊信息不完整“該公司收入增長了 3%”——哪家公司哪個季度太大則一個塊混雜多個主題嵌入被稀釋檢索精度下降。兩種嵌入稠密與稀疏分好塊之后要把文本塊變成可計算的向量形式。兩條路線各有所長。稠密嵌入捕捉語義把文本轉(zhuǎn)成一串?dāng)?shù)字向量語義相近的內(nèi)容向量距離也近。衡量兩個向量有多近用余弦相似度——計算兩個向量夾角的余弦值值越接近 1 表示語義越相似。稠密嵌入經(jīng)歷了從詞匯關(guān)聯(lián)到語義理解的演進(jìn)Word2Vec——為每個詞生成一個固定向量能捕捉共現(xiàn)關(guān)系“國王” - “男性” “女性” ≈ “女王”但無法處理一詞多義。bank在river bank和investment bank中含義截然不同卻得到相同向量BERT / BGE-M3——上下文感知模型。生成一個詞的向量時會參考整個句子的上下文同一個詞在不同語境下有不同向量百萬級向量的快速檢索靠 ANN近似最近鄰索引。兩種主流算法ANNOY基于樹——構(gòu)建快、內(nèi)存低但不支持增量更新適合靜態(tài)數(shù)據(jù)集HNSW基于圖——支持增量插入查詢精度更高適合需要持續(xù)吸納新知識的動態(tài)場景稀疏嵌入精確匹配BM25 是經(jīng)典代表核心邏輯很直觀一個詞在文檔中出現(xiàn)頻率越高、在整個文檔集合中越稀有這個詞越重要。相比更早的 TF-IDFBM25 引入了兩個關(guān)鍵改進(jìn)詞頻飽和度——一篇文章提到蒸餾20 次和 10 次相關(guān)度不會差一倍文檔長度歸一化——長文檔不會因為詞頻堆砌而不公平地占優(yōu)兩者的盲區(qū)互補稠密檢索懂語義但可能漏關(guān)鍵詞——搜HTTP-403可能返回服務(wù)器錯誤的泛泛討論稀疏檢索精確匹配但讀不懂同義詞——搜kitty找不到只寫了cat的文檔這引出了混合檢索?；旌蠙z索與重排序既然兩者互補生產(chǎn)系統(tǒng)就兩個引擎都跑結(jié)果合并。三階段流水線并行檢索——稠密和稀疏同時發(fā)查詢各自召回一批候選。結(jié)果融合——兩路得分尺度完全不同余弦相似度范圍 0-1BM25 可能 0 到幾十不能直接比。RRF倒數(shù)排名融合的做法是拋開原始得分只看排名每個文檔的綜合得分是它在各路結(jié)果中排名的平滑倒數(shù)之和。神經(jīng)重排序——對融合后的候選池做精排。不是為了補救融合丟掉的信息是換用了一種更強的匹配范式。三種范式從快到準(zhǔn)依次遞進(jìn)范式編碼方式匹配粒度文檔可預(yù)計算速度精度雙編碼器各自獨立文檔級是最快較低ColBERT 遲交互各自獨立Token 級是中等中等跨編碼器聯(lián)合編碼Token 級否慢最高三者不是替代關(guān)系是串聯(lián)使用雙編碼器從百萬文檔粗篩 top-100 → 跨編碼器對 100 篇精排到 top-10 → 送進(jìn) LLM 生成答案。這就是標(biāo)準(zhǔn)的 RAG 流水線。后面幾節(jié)講的是這條流水線在哪些地方不夠用以及怎么補。知識的組織結(jié)構(gòu)化索引與文件系統(tǒng)范式標(biāo)準(zhǔn)流水線有一個隱含假設(shè)每個文本塊獨立地包含了回答問題所需的信息。很多時候這個假設(shè)不成立。比如知識庫有 100 個獨立案例90 只黑貓、10 只白貓用戶問比例是多少。top-k 只能取 20 條大部分案例根本不會被檢索到。如果預(yù)先生成摘要共 100 只貓90 只黑貓、10 只白貓并索引一次檢索就能得到正確答案。必須在索引階段對知識做主動提煉和結(jié)構(gòu)化。三種組織哲學(xué)RAPTOR——用樹組織。自下而上遞歸抽象。先把文本塊按語義聚類分組再用 LLM 為每組生成更高層次的摘要作為父節(jié)點不斷遞歸形成從具體細(xì)節(jié)葉子到高度概括根的知識樹。擅長跨文檔全局概覽和從宏觀到微觀逐步深入——比如CPU 的 SSE 和 AVX 在架構(gòu)上有什么區(qū)別答案分散在幾十個塊里但 RAPTOR 在更高層的摘要節(jié)點里已經(jīng)歸納好了。GraphRAG——用圖組織。利用 LLM 從文本中提取實體和關(guān)系構(gòu)成知識圖譜。擅長兩類查詢多跳關(guān)系推理——我的醫(yī)生所在醫(yī)院的地址需要沿用戶→醫(yī)生→醫(yī)院→地址走四步實體消歧——兩個張醫(yī)生在圖里是不同節(jié)點各自連接到不同科室和機構(gòu)局限是三元組會丟失條件邏輯——如果下周還下雨就取消海邊計劃改去博物館被分解后核心的條件判斷和時間依賴全部丟失。文件系統(tǒng)范式OpenViking——用目錄組織。把所有知識映射成虛擬文件系統(tǒng)中的目錄和文件三層按需加載L0約 100 token——一句話摘要判斷是否相關(guān)L1約 2000 token——核心信息概覽供 Agent 規(guī)劃決策L2——完整原文按需加載選擇 Markdown 純文本意味著 Agent 自己可以讀寫知識文件形成知識自演化循環(huán)——Claude Code 的 CLAUDE.md 就是這個思路的簡化版。前提是文件之間必須建立鏈接和索引否則退化成互不關(guān)聯(lián)的孤島。三種方案適用場景不同。判斷標(biāo)準(zhǔn)答案是否完整存在于某一個塊里。如果是標(biāo)準(zhǔn)混合檢索夠了如果答案分散在很多塊里需要先歸納再比較結(jié)構(gòu)化索引才值得上。代價是索引構(gòu)建需要大量 LLM 調(diào)用。知識組織好之后還有一個運維問題知識庫不是一次建成就萬事大吉的靜態(tài)資產(chǎn)——公司政策會改版、法規(guī)會更新、文檔會被替換。增量更新方面索引結(jié)構(gòu)的選擇有實際后果。ANNOY 不支持增量插入新增文檔必須完全重建索引HNSW 天然支持增量更適合需要持續(xù)吸納新知識的場景。失效內(nèi)容需要主動管理。一篇被新版取代的舊政策如果仍留在庫中檢索時可能與新版一起被召回讓模型給出矛盾甚至過時的答案。生產(chǎn)系統(tǒng)通常給每個分塊附加版本號、生效/失效時間等元數(shù)據(jù)在檢索階段就過濾掉。權(quán)限隔離在多用戶共享的知識庫中尤其重要。不同部門、不同租戶能看到的文檔范圍不同檢索必須按調(diào)用者權(quán)限過濾敏感內(nèi)容不能進(jìn)入上下文。從被動管道到主動探索智能體化 RAG不管標(biāo)準(zhǔn)流水線還是結(jié)構(gòu)化索引前面的檢索流程都是被動的——搜一次就生成答案。Agentic RAG 把檢索變成 Agent 主動調(diào)用的工具自主決定搜什么、搜幾次、結(jié)果夠不夠不夠就換關(guān)鍵詞再搜搜到矛盾信息就交叉驗證。書里用法律量刑的例子說明差距?！白砭七^失致人重傷且有盜竊前科如何量刑”——傳統(tǒng) RAG 一次搜不全要么漏了醉酒不免責(zé)要么漏了累犯加重。Agentic RAG 的做法第一輪檢索——分解問題分別搜過失致人重傷量刑標(biāo)準(zhǔn)“醉酒刑事責(zé)任”“盜竊前科影響”評估——發(fā)現(xiàn)缺少將它們聯(lián)系起來的關(guān)鍵信息不同罪名下累犯如何認(rèn)定第二輪檢索——構(gòu)建更精確的查詢搜過失傷害罪與累犯或數(shù)罪并罰的關(guān)聯(lián)綜合生成——找到關(guān)鍵司法解釋后給出有法條依據(jù)的完整回答簡單問題“退款政策是什么”用傳統(tǒng) RAG 更快復(fù)雜問題 Agentic RAG 明顯更好。RAG 還有一個安全邊界值得注意檢索到的文檔是間接提示注入最典型的載體——攻擊者可以把惡意指令藏進(jìn)會被收錄的文檔里。防御的關(guān)鍵是指令與數(shù)據(jù)分離對檢索到的內(nèi)容做來源標(biāo)記明確告訴模型這是供參考的外部資料不是你要服從的命令?；氐皆c上下文感知檢索與雙層記憶架構(gòu)但不管檢索策略多聰明——普通 RAG 還是 Agentic RAG——它們都受限于同一個瓶頸分塊本身的質(zhì)量。一個塊在切出來的那一刻就丟失了這是哪家公司這是哪份報告的信息。搜索策略再精細(xì)塊本身語義模糊檢索精度就有天花板。上下文感知檢索上下文感知檢索回到索引階段解決這個問題。做法很直觀在建索引前用 LLM 為每個塊生成一段簡短的上下文前綴。比如該公司第二季度收入增長了 3%這個塊系統(tǒng)可能生成前綴[本段內(nèi)容節(jié)選自 ACME 公司 2025 年 Q2 財務(wù)報告的關(guān)鍵業(yè)績指標(biāo)章節(jié)]前綴和原始塊拼接后再索引。這同時增強了兩種檢索模式稀疏檢索——前綴增加了ACME2025 年第二季度這些可精確匹配的關(guān)鍵詞稠密檢索——前綴注入了關(guān)鍵語義背景embedding 更精確地反映塊的真實含義Anthropic 的數(shù)據(jù)結(jié)合 BM25 可將檢索失敗率降低 49%再加重排序降幅達(dá) 67%。代價是索引時每個塊多一次 LLM 調(diào)用但通過 prompt caching 可控。雙層記憶架構(gòu)把上下文感知檢索應(yīng)用到用戶記憶就得到全章的匯合點——雙層記憶架構(gòu)。上一篇講的 Advanced JSON Cards 把少量關(guān)鍵事實結(jié)構(gòu)化后常駐上下文提供隨時可見的概覽——用戶的護(hù)照過期日、關(guān)鍵偏好、人物關(guān)系。上下文感知檢索則按需從海量原始對話中取回細(xì)節(jié)——具體的對話內(nèi)容、事件的來龍去脈。兩者各自解決不了的問題只靠常駐上下文——容量受限丟細(xì)節(jié)只靠檢索——缺乏全局視野發(fā)現(xiàn)不了跨會話的隱藏關(guān)聯(lián)比如一月訂了去東京的機票和二月護(hù)照即將過期之間的聯(lián)系兩者疊加Agent 既能看到全局Cards 常駐又能取回細(xì)節(jié)檢索按需。補充兩個容易忽視的延伸話題多模態(tài)信息提取現(xiàn)實中知識不只存在于文字里。圖表、PDF 版式、語音都需要處理。三條路線各有取舍原生多模態(tài)處理——通過 Vision Transformer 把圖像切成小方塊patch當(dāng)作視覺單詞與文本 token 共處統(tǒng)一嵌入空間。保真度最高成本也最高提取為文本——通過 OCR、音頻轉(zhuǎn)錄等工具先轉(zhuǎn)為純文本再走標(biāo)準(zhǔn)流水線。便宜但丟失版式和空間關(guān)系工具化分析——文本提取打底提供初步摘要同時給 Agent 提供對原始文件深度分析的工具按需調(diào)用。兼顧低成本和高保真從結(jié)構(gòu)化數(shù)據(jù)提取知識前面所有技術(shù)的前提是知識已經(jīng)以文檔形式存在。但很多有價值的知識隱藏在結(jié)構(gòu)化數(shù)據(jù)的統(tǒng)計規(guī)律中——比如司法領(lǐng)域決定判決結(jié)果的知識更多體現(xiàn)在成千上萬份判例中法官如何權(quán)衡各種因素的經(jīng)驗里。提取分兩階段知識提取與結(jié)構(gòu)化——用 LLM 將非結(jié)構(gòu)化案例描述轉(zhuǎn)為標(biāo)準(zhǔn)化 JSON 對象因子分析與重要性建?！脭?shù)據(jù)分析技術(shù)發(fā)現(xiàn)模式、量化因子權(quán)重構(gòu)建因子重要性層次模型Agent 用這個模型引導(dǎo)用戶按重要性順序補全關(guān)鍵信息再檢索最相似的案件原型給出有判例支持的分析。學(xué)AI大模型的正確順序千萬不要搞錯了2026年AI風(fēng)口已來各行各業(yè)的AI滲透肉眼可見超多公司要么轉(zhuǎn)型做AI相關(guān)產(chǎn)品要么高薪挖AI技術(shù)人才機遇直接擺在眼前有往AI方向發(fā)展或者本身有后端編程基礎(chǔ)的朋友直接沖AI大模型應(yīng)用開發(fā)轉(zhuǎn)崗超合適就算暫時不打算轉(zhuǎn)崗了解大模型、RAG、Prompt、Agent這些熱門概念能上手做簡單項目也絕對是求職加分王給大家整理了超全最新的AI大模型應(yīng)用開發(fā)學(xué)習(xí)清單和資料手把手幫你快速入門學(xué)習(xí)路線:?大模型基礎(chǔ)認(rèn)知—大模型核心原理、發(fā)展歷程、主流模型GPT、文心一言等特點解析?核心技術(shù)模塊—RAG檢索增強生成、Prompt工程實戰(zhàn)、Agent智能體開發(fā)邏輯?開發(fā)基礎(chǔ)能力—Python進(jìn)階、API接口調(diào)用、大模型開發(fā)框架LangChain等實操?應(yīng)用場景開發(fā)—智能問答系統(tǒng)、企業(yè)知識庫、AIGC內(nèi)容生成工具、行業(yè)定制化大模型應(yīng)用?項目落地流程—需求拆解、技術(shù)選型、模型調(diào)優(yōu)、測試上線、運維迭代?面試求職沖刺—崗位JD解析、簡歷AI項目包裝、高頻面試題匯總、模擬面經(jīng)以上6大模塊看似清晰好上手實則每個部分都有扎實的核心內(nèi)容需要吃透我把大模型的學(xué)習(xí)全流程已經(jīng)整理好了抓住AI時代風(fēng)口輕松解鎖職業(yè)新可能希望大家都能把握機遇實現(xiàn)薪資/職業(yè)躍遷這份完整版的大模型 AI 學(xué)習(xí)資料已經(jīng)上傳CSDN朋友們?nèi)绻枰梢晕⑿艗呙柘路紺SDN官方認(rèn)證二維碼免費領(lǐng)取【保證100%免費】 一篇講透 RAG：分塊、混合檢索、重排序與 Agentic RAG
這是 ai-agent-book 讀書筆記的第四篇。上一篇講的是 Agent 記憶怎么存——存在哪里、存什么、怎么存。這篇進(jìn)入下一個問題記憶和知識怎么取回來。當(dāng)記憶量增長到成千上萬條問題就從怎么存變成了怎么找。檢索增強生成RAG就是解決這個問題的核心技術(shù)——將 LLM 的生成能力與外部知識庫結(jié)合讓模型能利用它訓(xùn)練時沒見過的知識而不需要重新訓(xùn)練。一個最簡單的 RAG 長這樣用戶問退款流程是什么 → 檢索器從知識庫找到退款政策的片段 → 片段注入上下文 → LLM 基于上下文生成答案整個流程就三步檢索相關(guān)片段 → 注入上下文 → 生成答案。接下來沿著這條流水線逐個拆解每個環(huán)節(jié)。標(biāo)準(zhǔn) RAG 流水線文檔分塊長文檔要先切成適合獨立檢索的片段。常見的分塊策略有三種固定大小切分——按固定 token 數(shù)切相鄰塊保留一定重疊避免關(guān)鍵句被截斷。實現(xiàn)簡單但完全無視文檔結(jié)構(gòu)遞歸/結(jié)構(gòu)感知切分——按文檔的自然邊界章節(jié)標(biāo)題、段落、句子遞歸切分先嘗試大邊界超長再降級到小邊界。目前生產(chǎn)系統(tǒng)最常用的默認(rèn)選擇語義切分——計算相鄰句子的嵌入相似度在語義斷崖處下刀使每個塊內(nèi)部主題盡量單一核心權(quán)衡太小則單塊信息不完整“該公司收入增長了 3%”——哪家公司哪個季度太大則一個塊混雜多個主題嵌入被稀釋檢索精度下降。兩種嵌入稠密與稀疏分好塊之后要把文本塊變成可計算的向量形式。兩條路線各有所長。稠密嵌入捕捉語義把文本轉(zhuǎn)成一串?dāng)?shù)字向量語義相近的內(nèi)容向量距離也近。衡量兩個向量有多近用余弦相似度——計算兩個向量夾角的余弦值值越接近 1 表示語義越相似。稠密嵌入經(jīng)歷了從詞匯關(guān)聯(lián)到語義理解的演進(jìn)Word2Vec——為每個詞生成一個固定向量能捕捉共現(xiàn)關(guān)系“國王” - “男性” “女性” ≈ “女王”但無法處理一詞多義。bank在river bank和investment bank中含義截然不同卻得到相同向量BERT / BGE-M3——上下文感知模型。生成一個詞的向量時會參考整個句子的上下文同一個詞在不同語境下有不同向量百萬級向量的快速檢索靠 ANN近似最近鄰索引。兩種主流算法ANNOY基于樹——構(gòu)建快、內(nèi)存低但不支持增量更新適合靜態(tài)數(shù)據(jù)集HNSW基于圖——支持增量插入查詢精度更高適合需要持續(xù)吸納新知識的動態(tài)場景稀疏嵌入精確匹配BM25 是經(jīng)典代表核心邏輯很直觀一個詞在文檔中出現(xiàn)頻率越高、在整個文檔集合中越稀有這個詞越重要。相比更早的 TF-IDFBM25 引入了兩個關(guān)鍵改進(jìn)詞頻飽和度——一篇文章提到蒸餾20 次和 10 次相關(guān)度不會差一倍文檔長度歸一化——長文檔不會因為詞頻堆砌而不公平地占優(yōu)兩者的盲區(qū)互補稠密檢索懂語義但可能漏關(guān)鍵詞——搜HTTP-403可能返回服務(wù)器錯誤的泛泛討論稀疏檢索精確匹配但讀不懂同義詞——搜kitty找不到只寫了cat的文檔這引出了混合檢索?；旌蠙z索與重排序既然兩者互補生產(chǎn)系統(tǒng)就兩個引擎都跑結(jié)果合并。三階段流水線并行檢索——稠密和稀疏同時發(fā)查詢各自召回一批候選。結(jié)果融合——兩路得分尺度完全不同余弦相似度范圍 0-1BM25 可能 0 到幾十不能直接比。RRF倒數(shù)排名融合的做法是拋開原始得分只看排名每個文檔的綜合得分是它在各路結(jié)果中排名的平滑倒數(shù)之和。神經(jīng)重排序——對融合后的候選池做精排。不是為了補救融合丟掉的信息是換用了一種更強的匹配范式。三種范式從快到準(zhǔn)依次遞進(jìn)范式編碼方式匹配粒度文檔可預(yù)計算速度精度雙編碼器各自獨立文檔級是最快較低ColBERT 遲交互各自獨立Token 級是中等中等跨編碼器聯(lián)合編碼Token 級否慢最高三者不是替代關(guān)系是串聯(lián)使用雙編碼器從百萬文檔粗篩 top-100 → 跨編碼器對 100 篇精排到 top-10 → 送進(jìn) LLM 生成答案。這就是標(biāo)準(zhǔn)的 RAG 流水線。后面幾節(jié)講的是這條流水線在哪些地方不夠用以及怎么補。知識的組織結(jié)構(gòu)化索引與文件系統(tǒng)范式標(biāo)準(zhǔn)流水線有一個隱含假設(shè)每個文本塊獨立地包含了回答問題所需的信息。很多時候這個假設(shè)不成立。比如知識庫有 100 個獨立案例90 只黑貓、10 只白貓用戶問比例是多少。top-k 只能取 20 條大部分案例根本不會被檢索到。如果預(yù)先生成摘要共 100 只貓90 只黑貓、10 只白貓并索引一次檢索就能得到正確答案。必須在索引階段對知識做主動提煉和結(jié)構(gòu)化。三種組織哲學(xué)RAPTOR——用樹組織。自下而上遞歸抽象。先把文本塊按語義聚類分組再用 LLM 為每組生成更高層次的摘要作為父節(jié)點不斷遞歸形成從具體細(xì)節(jié)葉子到高度概括根的知識樹。擅長跨文檔全局概覽和從宏觀到微觀逐步深入——比如CPU 的 SSE 和 AVX 在架構(gòu)上有什么區(qū)別答案分散在幾十個塊里但 RAPTOR 在更高層的摘要節(jié)點里已經(jīng)歸納好了。GraphRAG——用圖組織。利用 LLM 從文本中提取實體和關(guān)系構(gòu)成知識圖譜。擅長兩類查詢多跳關(guān)系推理——我的醫(yī)生所在醫(yī)院的地址需要沿用戶→醫(yī)生→醫(yī)院→地址走四步實體消歧——兩個張醫(yī)生在圖里是不同節(jié)點各自連接到不同科室和機構(gòu)局限是三元組會丟失條件邏輯——如果下周還下雨就取消海邊計劃改去博物館被分解后核心的條件判斷和時間依賴全部丟失。文件系統(tǒng)范式OpenViking——用目錄組織。把所有知識映射成虛擬文件系統(tǒng)中的目錄和文件三層按需加載L0約 100 token——一句話摘要判斷是否相關(guān)L1約 2000 token——核心信息概覽供 Agent 規(guī)劃決策L2——完整原文按需加載選擇 Markdown 純文本意味著 Agent 自己可以讀寫知識文件形成知識自演化循環(huán)——Claude Code 的 CLAUDE.md 就是這個思路的簡化版。前提是文件之間必須建立鏈接和索引否則退化成互不關(guān)聯(lián)的孤島。三種方案適用場景不同。判斷標(biāo)準(zhǔn)答案是否完整存在于某一個塊里。如果是標(biāo)準(zhǔn)混合檢索夠了如果答案分散在很多塊里需要先歸納再比較結(jié)構(gòu)化索引才值得上。代價是索引構(gòu)建需要大量 LLM 調(diào)用。知識組織好之后還有一個運維問題知識庫不是一次建成就萬事大吉的靜態(tài)資產(chǎn)——公司政策會改版、法規(guī)會更新、文檔會被替換。增量更新方面索引結(jié)構(gòu)的選擇有實際后果。ANNOY 不支持增量插入新增文檔必須完全重建索引HNSW 天然支持增量更適合需要持續(xù)吸納新知識的場景。失效內(nèi)容需要主動管理。一篇被新版取代的舊政策如果仍留在庫中檢索時可能與新版一起被召回讓模型給出矛盾甚至過時的答案。生產(chǎn)系統(tǒng)通常給每個分塊附加版本號、生效/失效時間等元數(shù)據(jù)在檢索階段就過濾掉。權(quán)限隔離在多用戶共享的知識庫中尤其重要。不同部門、不同租戶能看到的文檔范圍不同檢索必須按調(diào)用者權(quán)限過濾敏感內(nèi)容不能進(jìn)入上下文。從被動管道到主動探索智能體化 RAG不管標(biāo)準(zhǔn)流水線還是結(jié)構(gòu)化索引前面的檢索流程都是被動的——搜一次就生成答案。Agentic RAG 把檢索變成 Agent 主動調(diào)用的工具自主決定搜什么、搜幾次、結(jié)果夠不夠不夠就換關(guān)鍵詞再搜搜到矛盾信息就交叉驗證。書里用法律量刑的例子說明差距?！白砭七^失致人重傷且有盜竊前科如何量刑”——傳統(tǒng) RAG 一次搜不全要么漏了醉酒不免責(zé)要么漏了累犯加重。Agentic RAG 的做法第一輪檢索——分解問題分別搜過失致人重傷量刑標(biāo)準(zhǔn)“醉酒刑事責(zé)任”“盜竊前科影響”評估——發(fā)現(xiàn)缺少將它們聯(lián)系起來的關(guān)鍵信息不同罪名下累犯如何認(rèn)定第二輪檢索——構(gòu)建更精確的查詢搜過失傷害罪與累犯或數(shù)罪并罰的關(guān)聯(lián)綜合生成——找到關(guān)鍵司法解釋后給出有法條依據(jù)的完整回答簡單問題“退款政策是什么”用傳統(tǒng) RAG 更快復(fù)雜問題 Agentic RAG 明顯更好。RAG 還有一個安全邊界值得注意檢索到的文檔是間接提示注入最典型的載體——攻擊者可以把惡意指令藏進(jìn)會被收錄的文檔里。防御的關(guān)鍵是指令與數(shù)據(jù)分離對檢索到的內(nèi)容做來源標(biāo)記明確告訴模型這是供參考的外部資料不是你要服從的命令?；氐皆c上下文感知檢索與雙層記憶架構(gòu)但不管檢索策略多聰明——普通 RAG 還是 Agentic RAG——它們都受限于同一個瓶頸分塊本身的質(zhì)量。一個塊在切出來的那一刻就丟失了這是哪家公司這是哪份報告的信息。搜索策略再精細(xì)塊本身語義模糊檢索精度就有天花板。上下文感知檢索上下文感知檢索回到索引階段解決這個問題。做法很直觀在建索引前用 LLM 為每個塊生成一段簡短的上下文前綴。比如該公司第二季度收入增長了 3%這個塊系統(tǒng)可能生成前綴[本段內(nèi)容節(jié)選自 ACME 公司 2025 年 Q2 財務(wù)報告的關(guān)鍵業(yè)績指標(biāo)章節(jié)]前綴和原始塊拼接后再索引。這同時增強了兩種檢索模式稀疏檢索——前綴增加了ACME2025 年第二季度這些可精確匹配的關(guān)鍵詞稠密檢索——前綴注入了關(guān)鍵語義背景embedding 更精確地反映塊的真實含義Anthropic 的數(shù)據(jù)結(jié)合 BM25 可將檢索失敗率降低 49%再加重排序降幅達(dá) 67%。代價是索引時每個塊多一次 LLM 調(diào)用但通過 prompt caching 可控。雙層記憶架構(gòu)把上下文感知檢索應(yīng)用到用戶記憶就得到全章的匯合點——雙層記憶架構(gòu)。上一篇講的 Advanced JSON Cards 把少量關(guān)鍵事實結(jié)構(gòu)化后常駐上下文提供隨時可見的概覽——用戶的護(hù)照過期日、關(guān)鍵偏好、人物關(guān)系。上下文感知檢索則按需從海量原始對話中取回細(xì)節(jié)——具體的對話內(nèi)容、事件的來龍去脈。兩者各自解決不了的問題只靠常駐上下文——容量受限丟細(xì)節(jié)只靠檢索——缺乏全局視野發(fā)現(xiàn)不了跨會話的隱藏關(guān)聯(lián)比如一月訂了去東京的機票和二月護(hù)照即將過期之間的聯(lián)系兩者疊加Agent 既能看到全局Cards 常駐又能取回細(xì)節(jié)檢索按需。補充兩個容易忽視的延伸話題多模態(tài)信息提取現(xiàn)實中知識不只存在于文字里。圖表、PDF 版式、語音都需要處理。三條路線各有取舍原生多模態(tài)處理——通過 Vision Transformer 把圖像切成小方塊patch當(dāng)作視覺單詞與文本 token 共處統(tǒng)一嵌入空間。保真度最高成本也最高提取為文本——通過 OCR、音頻轉(zhuǎn)錄等工具先轉(zhuǎn)為純文本再走標(biāo)準(zhǔn)流水線。便宜但丟失版式和空間關(guān)系工具化分析——文本提取打底提供初步摘要同時給 Agent 提供對原始文件深度分析的工具按需調(diào)用。兼顧低成本和高保真從結(jié)構(gòu)化數(shù)據(jù)提取知識前面所有技術(shù)的前提是知識已經(jīng)以文檔形式存在。但很多有價值的知識隱藏在結(jié)構(gòu)化數(shù)據(jù)的統(tǒng)計規(guī)律中——比如司法領(lǐng)域決定判決結(jié)果的知識更多體現(xiàn)在成千上萬份判例中法官如何權(quán)衡各種因素的經(jīng)驗里。提取分兩階段知識提取與結(jié)構(gòu)化——用 LLM 將非結(jié)構(gòu)化案例描述轉(zhuǎn)為標(biāo)準(zhǔn)化 JSON 對象因子分析與重要性建?！脭?shù)據(jù)分析技術(shù)發(fā)現(xiàn)模式、量化因子權(quán)重構(gòu)建因子重要性層次模型Agent 用這個模型引導(dǎo)用戶按重要性順序補全關(guān)鍵信息再檢索最相似的案件原型給出有判例支持的分析。學(xué)AI大模型的正確順序千萬不要搞錯了2026年AI風(fēng)口已來各行各業(yè)的AI滲透肉眼可見超多公司要么轉(zhuǎn)型做AI相關(guān)產(chǎn)品要么高薪挖AI技術(shù)人才機遇直接擺在眼前有往AI方向發(fā)展或者本身有后端編程基礎(chǔ)的朋友直接沖AI大模型應(yīng)用開發(fā)轉(zhuǎn)崗超合適就算暫時不打算轉(zhuǎn)崗了解大模型、RAG、Prompt、Agent這些熱門概念能上手做簡單項目也絕對是求職加分王給大家整理了超全最新的AI大模型應(yīng)用開發(fā)學(xué)習(xí)清單和資料手把手幫你快速入門學(xué)習(xí)路線:?大模型基礎(chǔ)認(rèn)知—大模型核心原理、發(fā)展歷程、主流模型GPT、文心一言等特點解析?核心技術(shù)模塊—RAG檢索增強生成、Prompt工程實戰(zhàn)、Agent智能體開發(fā)邏輯?開發(fā)基礎(chǔ)能力—Python進(jìn)階、API接口調(diào)用、大模型開發(fā)框架LangChain等實操?應(yīng)用場景開發(fā)—智能問答系統(tǒng)、企業(yè)知識庫、AIGC內(nèi)容生成工具、行業(yè)定制化大模型應(yīng)用?項目落地流程—需求拆解、技術(shù)選型、模型調(diào)優(yōu)、測試上線、運維迭代?面試求職沖刺—崗位JD解析、簡歷AI項目包裝、高頻面試題匯總、模擬面經(jīng)以上6大模塊看似清晰好上手實則每個部分都有扎實的核心內(nèi)容需要吃透我把大模型的學(xué)習(xí)全流程已經(jīng)整理好了抓住AI時代風(fēng)口輕松解鎖職業(yè)新可能希望大家都能把握機遇實現(xiàn)薪資/職業(yè)躍遷這份完整版的大模型 AI 學(xué)習(xí)資料已經(jīng)上傳CSDN朋友們?nèi)绻枰梢晕⑿艗呙柘路紺SDN官方認(rèn)證二維碼免費領(lǐng)取【保證100%免費】