一、怎么讓 AI 真正“懂你”想象一下和一位老朋友相處——他不會(huì)記住你每一句話的每個(gè)字但會(huì)在心里慢慢形成一個(gè)關(guān)于你的“模型”你的愛好、習(xí)慣、價(jià)值觀。AI 的用戶記憶系統(tǒng)要做的正是這件事。1. 記憶是怎么“存”進(jìn)去的每次對(duì)話結(jié)束系統(tǒng)會(huì)調(diào)用專門的 AI 模型分析對(duì)話內(nèi)容從中提取值得長期記住的信息。這個(gè)過程有三個(gè)關(guān)鍵特征選擇性不記“搜索返回了 3 個(gè)選項(xiàng)”這樣的臨時(shí)信息只保留對(duì)未來有幫助的事實(shí)。抽象化不綁定某次具體航班而是提煉為通用偏好比如“用戶偏好靠窗座位”。結(jié)構(gòu)化用統(tǒng)一格式組織信息方便后續(xù)快速檢索。這樣一來下次你訂機(jī)票時(shí)Agent 就不需要再問你的座位偏好——它已經(jīng)記住了。2. 記憶的四種存儲(chǔ)方式同樣一條信息可以用四種不同方式存儲(chǔ)各有優(yōu)劣存儲(chǔ)方式特點(diǎn)優(yōu)缺點(diǎn)Simple Notes簡單筆記最小事實(shí)碎片如“郵箱johnexample.com”極快極省但信息關(guān)聯(lián)被切斷Enhanced Notes增強(qiáng)筆記完整段落如“用戶是高級(jí)軟件工程師專注 ML 三年”語義完整但存儲(chǔ)冗余、更新麻煩JSON CardsJSON 卡片三層結(jié)構(gòu)類別→子類別→鍵值對(duì)結(jié)構(gòu)清晰、支持部分更新但假設(shè)信息可清晰分類Advanced JSON Cards高級(jí) JSON 卡片不僅記錄事實(shí)還記錄背景、主體身份、關(guān)系精準(zhǔn)但成本高實(shí)際應(yīng)用中大多數(shù)系統(tǒng)采用混合模式關(guān)鍵數(shù)據(jù)用高級(jí)卡片保證精準(zhǔn)大量非關(guān)鍵事實(shí)用簡單筆記控制成本。3. 什么樣的記憶系統(tǒng)算好評(píng)估一個(gè)記憶系統(tǒng)可以從三個(gè)層次來看第一層基礎(chǔ)回憶→ 能準(zhǔn)確存儲(chǔ)和檢索用戶直接提供的信息比如會(huì)員號(hào)。第二層多會(huì)話檢索→ 能處理多個(gè)不同時(shí)間、不同對(duì)象的會(huì)話信息比如用戶有兩輛車系統(tǒng)能主動(dòng)詢問“為哪輛車預(yù)約保養(yǎng)”第三層主動(dòng)服務(wù)→ 助理級(jí)別綜合跨會(huì)話信息提供預(yù)見性幫助比如預(yù)訂國際航班時(shí)自動(dòng)關(guān)聯(lián)數(shù)月前存儲(chǔ)的護(hù)照信息并提醒即將過期。二、知識(shí)庫與 RAG讓 AI 成為“領(lǐng)域?qū)＜摇比绻f用戶記憶是讓 AI“懂你”那么知識(shí)庫就是讓 AI“懂行”——掌握一個(gè)領(lǐng)域的專業(yè)知識(shí)。1. RAG 是什么RAG的核心思想非常簡單讓 AI 在回答問題之前先去外部知識(shí)庫“查資料”。AI 模型本身的訓(xùn)練數(shù)據(jù)有截止日期但知識(shí)庫可以隨時(shí)更新。RAG 把 AI 的思考能力與知識(shí)庫的廣度結(jié)合起來——先查到相關(guān)資料再結(jié)合這些資料來回答問題答案自然更準(zhǔn)確、更及時(shí)。2. 文檔分塊RAG 的第一步“功課”把文檔存入知識(shí)庫之前必須先分塊Chunking——把長文檔切成適合檢索的小片段。為什么要切嵌入模型把文字轉(zhuǎn)成數(shù)字向量的模型對(duì)輸入長度有限制。一整篇文檔壓縮成一個(gè)向量時(shí)多個(gè)主題混在一起向量無法精確表達(dá)任何一個(gè)。常見的分塊策略有三種固定大小切分簡單粗暴可能切斷句子。遞歸/結(jié)構(gòu)感知切分按章節(jié)、段落等自然邊界切——生產(chǎn)系統(tǒng)最常用。語義切分在語義發(fā)生“斷崖”的地方切讓每個(gè)塊的主題盡量單一。3. 檢索的兩條路線稠密 vs 稀疏分好塊之后怎么找到最相關(guān)的那幾塊有兩條技術(shù)路線稠密檢索語義理解把文字轉(zhuǎn)化成高維向量語義相近的內(nèi)容在向量空間里也“挨得近”。優(yōu)點(diǎn)是能理解同義詞缺點(diǎn)是可能漏掉精確關(guān)鍵詞。稀疏檢索關(guān)鍵詞匹配基于 BM25 等經(jīng)典算法精確匹配關(guān)鍵詞。優(yōu)點(diǎn)是能精準(zhǔn)找到“HTTP-403”缺點(diǎn)是讀不懂同義詞。最佳實(shí)踐是“混合檢索”兩條路線都跑結(jié)果合并。再進(jìn)一步用重排序器對(duì)候選結(jié)果精細(xì)打分把最相關(guān)的文檔排到最前面。三、高級(jí)知識(shí)組織從“查資料”到“真理解”簡單的 RAG查資料→回答雖然強(qiáng)大但有根本性限制——它把文檔切成獨(dú)立碎片忽略了知識(shí)本身的內(nèi)在結(jié)構(gòu)。就像試圖通過閱讀一本字典的隨機(jī)詞條來理解一部小說很難把握全局。1. 結(jié)構(gòu)化索引給知識(shí)“建目錄”解決方法是在索引之前先用 AI 把知識(shí)整理一遍——?dú)w納、抽象、建立關(guān)聯(lián)。目前主要有兩條路RAPTOR樹狀層次自下而上遞歸抽象。先把文檔切成小塊作為“葉子節(jié)點(diǎn)”聚類后生成更高層次的摘要作為“父節(jié)點(diǎn)”如此遞歸形成一棵知識(shí)樹。適合“從宏觀概念逐步深入到細(xì)節(jié)”的查詢。GraphRAG實(shí)體關(guān)系圖把知識(shí)建模為由實(shí)體和關(guān)系構(gòu)成的知識(shí)圖譜。比如張三就職于騰訊、騰訊總部在深圳。這張網(wǎng)特別擅長回答“A 和 B 之間是什么關(guān)系”這類問題。2. 智能體化 RAG從“被動(dòng)管道”到“主動(dòng)研究員”傳統(tǒng) RAG 是一個(gè)單向流程用戶提問→檢索→生成答案。而智能體化 RAG把知識(shí)庫檢索封裝成一個(gè)工具讓 Agent 自己決定什么時(shí)候搜、搜什么、怎么搜。打個(gè)比方傳統(tǒng) RAG 就像在圖書館里只做一次搜索就立刻寫報(bào)告智能體化 RAG 則像一位研究員可以反復(fù)查閱不同書架、調(diào)整搜索策略、交叉驗(yàn)證信息直到掌握足夠的材料再動(dòng)筆。面對(duì)復(fù)雜問題比如法律量刑智能體化 RAG 會(huì)這樣工作第一輪分解問題并行搜索多個(gè)子問題。思考與評(píng)估發(fā)現(xiàn)各子問題的信息找到了但缺少將它們聯(lián)系起來的線索。第二輪基于更聚焦的問題構(gòu)建更精確的二次查詢。最終綜合找到關(guān)聯(lián)信息后給出邏輯嚴(yán)密的完整回答。寫在最后這一章的核心可以濃縮為三句話第一記憶不是簡單記錄而是主動(dòng)提煉。AI 不是把你說過的每句話都存下來而是從中提取出對(duì)未來的“有用信息”——你的偏好、習(xí)慣、需求。第二檢索比存儲(chǔ)更重要。記憶再多找不到等于沒有。這就是為什么向量檢索、混合檢索、重排序這些技術(shù)如此關(guān)鍵。第三好的 Agent 不只是“回答問題”而是“解決問題”。從被動(dòng)等待提問到主動(dòng)預(yù)判需求——這才是從“工具”到“助理”的本質(zhì)躍遷。