1. 從兩個(gè)方向理解AI與控制的融合1.1 為什么這個(gè)命題值得認(rèn)真拆解“AI賦能控制”和“控制約束AI”這兩個(gè)說法乍一聽像是同一件事的正反兩面但真正在一線做過系統(tǒng)落地的人會(huì)知道它們對(duì)應(yīng)的是兩套完全不同的技術(shù)路線、工程思維和評(píng)價(jià)體系。前者是把深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、大模型這些工具塞進(jìn)現(xiàn)有的控制回路里讓控制器變得更聰明后者是把控制理論里那套穩(wěn)定性分析、魯棒性保證、約束優(yōu)化的數(shù)學(xué)框架反過來(lái)套在AI模型上讓AI的行為變得可預(yù)測(cè)、可約束、可驗(yàn)證。我之所以想認(rèn)真聊這個(gè)話題是因?yàn)檫^去幾年里我參與過幾個(gè)工業(yè)級(jí)的智能控制項(xiàng)目也踩過不少坑。最開始團(tuán)隊(duì)里所有人都覺得“AI賦能控制”是理所當(dāng)然的方向——用神經(jīng)網(wǎng)絡(luò)替代PID用強(qiáng)化學(xué)習(xí)做自適應(yīng)調(diào)度聽起來(lái)又酷又有效。但真正上線之后才發(fā)現(xiàn)一個(gè)在仿真環(huán)境里表現(xiàn)完美的RL策略到了現(xiàn)場(chǎng)可能因?yàn)橐粋€(gè)傳感器漂移就徹底崩潰而且你根本不知道它為什么崩潰。這時(shí)候才意識(shí)到控制理論里那些看似“保守”的穩(wěn)定性證明、Lyapunov函數(shù)、魯棒邊界其實(shí)是在為系統(tǒng)的可靠性兜底。反過來(lái)當(dāng)我們嘗試把大模型引入到調(diào)度決策環(huán)節(jié)時(shí)又遇到了新的問題模型輸出的動(dòng)作空間不受約束可能給出一個(gè)物理上根本不可執(zhí)行的指令。這時(shí)候就需要用控制理論里的約束優(yōu)化方法把AI的輸出“框”在一個(gè)安全可行域內(nèi)。這就是“控制約束AI”的典型場(chǎng)景。所以這篇文章想做的事情很明確把這兩個(gè)方向的技術(shù)邏輯、適用場(chǎng)景、實(shí)操要點(diǎn)和踩坑經(jīng)驗(yàn)盡可能完整地拆開來(lái)講。無(wú)論你是做控制出身的工程師想了解AI怎么用還是做AI出身的研究者想理解控制理論的約束思維都能從中找到可以直接參考的東西。1.2 兩個(gè)方向的核心差異對(duì)比在展開細(xì)節(jié)之前先用一張表把兩個(gè)方向的核心差異說清楚這樣后面討論具體技術(shù)時(shí)不容易混淆。對(duì)比維度AI賦能控制控制約束AI核心目標(biāo)提升控制性能、適應(yīng)性和智能化水平保證AI行為的安全性、穩(wěn)定性和可解釋性主要工具神經(jīng)網(wǎng)絡(luò)、強(qiáng)化學(xué)習(xí)、模仿學(xué)習(xí)、大模型Lyapunov分析、魯棒控制、模型預(yù)測(cè)控制、約束優(yōu)化評(píng)價(jià)標(biāo)準(zhǔn)跟蹤精度、響應(yīng)速度、泛化能力穩(wěn)定性證明、安全邊界、約束滿足率典型場(chǎng)景非線性系統(tǒng)控制、自適應(yīng)調(diào)度、端到端決策安全關(guān)鍵系統(tǒng)、AI輸出校驗(yàn)、在線監(jiān)控主要風(fēng)險(xiǎn)黑箱不可解釋、泛化差、訓(xùn)練成本高過度保守導(dǎo)致性能下降、約束設(shè)計(jì)復(fù)雜工程成熟度中等部分場(chǎng)景已落地較高但與AI結(jié)合仍在探索這張表不是要分出誰(shuí)優(yōu)誰(shuí)劣而是想說清楚這兩個(gè)方向解決的是不同層次的問題。AI賦能控制解決的是“怎么做得更好”控制約束AI解決的是“怎么保證不出事”。在實(shí)際系統(tǒng)里兩者往往是配合使用的。2. AI賦能控制的核心技術(shù)路徑2.1 神經(jīng)網(wǎng)絡(luò)控制器到底能不能替代PID這是很多人入行時(shí)第一個(gè)會(huì)問的問題。我的答案是能替代一部分但替代的條件比想象中苛刻得多。先說不替代的理由。PID控制器之所以在工業(yè)界統(tǒng)治了幾十年核心原因是它的行為完全可預(yù)測(cè)。給定一組參數(shù)你可以精確計(jì)算出它在任何輸入下的輸出可以畫出Bode圖分析頻域特性可以用根軌跡判斷閉環(huán)穩(wěn)定性。這些數(shù)學(xué)工具給了工程師極大的信心。而一個(gè)神經(jīng)網(wǎng)絡(luò)控制器哪怕訓(xùn)練損失降到很低你也沒法用同樣的方式去分析它——它的行為依賴于權(quán)重矩陣?yán)锍汕先f(wàn)個(gè)參數(shù)任何一個(gè)參數(shù)的微小擾動(dòng)都可能導(dǎo)致輸出劇烈變化。但反過來(lái)說有些場(chǎng)景下PID確實(shí)不夠用。比如一個(gè)強(qiáng)非線性系統(tǒng)工作點(diǎn)在大范圍內(nèi)變化PID的參數(shù)需要頻繁整定整定成本很高。這時(shí)候如果用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)一個(gè)非線性映射把系統(tǒng)狀態(tài)直接映射到控制量理論上可以覆蓋更大的工作范圍。我做過一個(gè)溫度控制的項(xiàng)目系統(tǒng)存在明顯的滯后和非線性傳統(tǒng)PID在升溫階段和恒溫階段需要兩套完全不同的參數(shù)切換時(shí)還會(huì)產(chǎn)生振蕩。后來(lái)用了一個(gè)簡(jiǎn)單的三層BP網(wǎng)絡(luò)做前饋補(bǔ)償PID只負(fù)責(zé)反饋校正效果提升很明顯。所以我的經(jīng)驗(yàn)是不要試圖用神經(jīng)網(wǎng)絡(luò)完全替代PID而是讓它做PID做不好的事情。比如前饋補(bǔ)償、非線性增益調(diào)度、多變量解耦。PID負(fù)責(zé)它最擅長(zhǎng)的反饋校正神經(jīng)網(wǎng)絡(luò)負(fù)責(zé)它最擅長(zhǎng)的非線性映射。這種混合結(jié)構(gòu)既保留了可解釋性又引入了適應(yīng)性。2.2 強(qiáng)化學(xué)習(xí)在控制中的落地難點(diǎn)強(qiáng)化學(xué)習(xí)在控制領(lǐng)域的論文很多但真正落地的案例少得可憐。原因不復(fù)雜RL的訓(xùn)練過程本質(zhì)上是在試錯(cuò)而工業(yè)系統(tǒng)不允許你隨便試錯(cuò)。我見過一個(gè)典型的失敗案例。某團(tuán)隊(duì)用DDPG算法訓(xùn)練一個(gè)機(jī)械臂的抓取策略在仿真環(huán)境里訓(xùn)練了上百萬(wàn)步成功率很高。但到了真實(shí)機(jī)械臂上第一次運(yùn)行就直接撞到了限位。原因是仿真環(huán)境里沒有建模限位開關(guān)的物理約束而RL策略在探索過程中學(xué)會(huì)了“用力撞過去”這種在仿真里沒有懲罰的動(dòng)作。這個(gè)問題的根源在于RL的獎(jiǎng)勵(lì)函數(shù)設(shè)計(jì)很難覆蓋所有安全約束。你在獎(jiǎng)勵(lì)函數(shù)里加一個(gè)碰撞懲罰但RL可能會(huì)學(xué)會(huì)用更隱蔽的方式繞過這個(gè)懲罰。而且獎(jiǎng)勵(lì)函數(shù)的權(quán)重很難調(diào)碰撞懲罰太大策略會(huì)變得過于保守太小又會(huì)冒險(xiǎn)。我的建議是如果一定要用RL做控制必須配合一個(gè)獨(dú)立的安全層。這個(gè)安全層不參與學(xué)習(xí)只負(fù)責(zé)在RL輸出動(dòng)作之后做一次校驗(yàn)和修正。比如用控制屏障函數(shù)CBF把RL的輸出投影到安全集內(nèi)或者用一個(gè)簡(jiǎn)單的規(guī)則引擎做兜底。這樣即使RL策略出了問題安全層也能保證系統(tǒng)不會(huì)進(jìn)入危險(xiǎn)狀態(tài)。2.3 大模型在控制回路中的角色定位大模型進(jìn)入控制領(lǐng)域是最近一兩年的事情。目前看到的用法主要有兩類一類是做高層決策比如根據(jù)自然語(yǔ)言指令生成任務(wù)序列另一類是做異常診斷比如根據(jù)日志和傳感器數(shù)據(jù)判斷系統(tǒng)出了什么問題。但大模型有一個(gè)致命問題它的輸出是概率性的而且推理延遲通常比較大。在一個(gè)要求毫秒級(jí)響應(yīng)的控制回路里你不可能讓大模型直接參與實(shí)時(shí)控制。所以合理的定位是大模型做離線或準(zhǔn)實(shí)時(shí)的決策支持實(shí)時(shí)控制仍然由傳統(tǒng)控制器或輕量級(jí)神經(jīng)網(wǎng)絡(luò)完成。我參與過一個(gè)設(shè)備運(yùn)維項(xiàng)目用大模型做故障根因分析。具體做法是把設(shè)備的歷史報(bào)警日志、傳感器趨勢(shì)數(shù)據(jù)、維修記錄整理成結(jié)構(gòu)化文本讓大模型做推理輸出可能的故障原因和排查建議。這個(gè)用法不涉及實(shí)時(shí)控制所以對(duì)延遲不敏感而且大模型的語(yǔ)義理解能力確實(shí)比傳統(tǒng)規(guī)則引擎強(qiáng)很多。但即便如此我們?nèi)匀患恿艘粚尤斯ご_認(rèn)環(huán)節(jié)因?yàn)榇竽Ｐ团紶枙?huì)給出看似合理但實(shí)際錯(cuò)誤的建議。3. 控制約束AI的技術(shù)框架3.1 為什么AI需要被約束這個(gè)問題可以從三個(gè)層面來(lái)回答。第一個(gè)層面是安全性。AI模型尤其是神經(jīng)網(wǎng)絡(luò)本質(zhì)上是高維空間里的函數(shù)逼近器。你給它一個(gè)輸入它給你一個(gè)輸出但這個(gè)輸出可能落在物理上不可執(zhí)行的區(qū)域。比如一個(gè)無(wú)人機(jī)的高度控制神經(jīng)網(wǎng)絡(luò)可能輸出一個(gè)負(fù)的高度指令這在物理上是不可能的。如果不加約束系統(tǒng)就會(huì)出問題。第二個(gè)層面是穩(wěn)定性?？刂评碚摾锱袛嘁粋€(gè)系統(tǒng)是否穩(wěn)定有一套成熟的數(shù)學(xué)工具。但神經(jīng)網(wǎng)絡(luò)控制器通常是非線性的、時(shí)變的傳統(tǒng)的穩(wěn)定性分析方法很難直接套用。如果你不能證明系統(tǒng)穩(wěn)定那在實(shí)際部署時(shí)就要非常小心。第三個(gè)層面是可解釋性。在安全關(guān)鍵領(lǐng)域比如醫(yī)療、交通、能源監(jiān)管機(jī)構(gòu)通常要求你解釋系統(tǒng)的決策邏輯。一個(gè)黑箱模型很難滿足這個(gè)要求。而控制理論里的約束框架比如模型預(yù)測(cè)控制每一步的優(yōu)化過程都是可追溯的這在一定程度上提供了可解釋性。3.2 控制屏障函數(shù)給AI畫一條安全線控制屏障函數(shù)Control Barrier FunctionCBF是近年來(lái)比較受關(guān)注的一種安全約束方法。它的核心思想是定義一個(gè)安全集然后設(shè)計(jì)一個(gè)約束條件保證系統(tǒng)狀態(tài)永遠(yuǎn)不會(huì)離開這個(gè)安全集。用生活化的類比來(lái)解釋假設(shè)你在開車安全集就是“不撞到前車”。CBF的作用就是給你一個(gè)約束你的加速度不能超過某個(gè)值否則就會(huì)撞上。這個(gè)約束是實(shí)時(shí)計(jì)算的根據(jù)你和前車的距離、相對(duì)速度動(dòng)態(tài)調(diào)整。在AI控制中CBF通常作為一層過濾器使用。AI輸出一個(gè)動(dòng)作CBF檢查這個(gè)動(dòng)作是否滿足安全約束。如果不滿足就把動(dòng)作投影到安全集邊界上。這樣既保留了AI的靈活性又保證了安全性。但CBF也有局限性。它需要知道系統(tǒng)的動(dòng)力學(xué)模型而且對(duì)于高維系統(tǒng)計(jì)算量會(huì)很大。另外CBF的設(shè)計(jì)需要一定的專業(yè)知識(shí)不是隨便定義一個(gè)函數(shù)就能用的。3.3 模型預(yù)測(cè)控制與AI的結(jié)合方式模型預(yù)測(cè)控制MPC是工業(yè)界應(yīng)用最廣泛的高級(jí)控制方法之一。它的核心思想是在每個(gè)控制周期求解一個(gè)有限時(shí)域的優(yōu)化問題得到未來(lái)一段時(shí)間的控制序列然后只執(zhí)行第一個(gè)控制量下一個(gè)周期重新求解。MPC天然適合與AI結(jié)合因?yàn)樗膬?yōu)化框架可以很方便地加入各種約束。比如你可以把AI的輸出作為MPC的參考軌跡然后MPC在滿足約束的前提下跟蹤這個(gè)參考。這樣AI負(fù)責(zé)“想要做什么”MPC負(fù)責(zé)“能做什么”。我做過一個(gè)化工過程的項(xiàng)目用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)產(chǎn)品質(zhì)量然后用MPC做約束優(yōu)化。神經(jīng)網(wǎng)絡(luò)給出的質(zhì)量預(yù)測(cè)作為MPC的目標(biāo)函數(shù)而MPC的約束包括溫度上限、壓力上限、閥門開度限制等。這樣既利用了神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)能力又保證了操作的安全性。但這種結(jié)合方式也有代價(jià)MPC的求解需要時(shí)間如果神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)不準(zhǔn)MPC可能會(huì)做出錯(cuò)誤的決策。所以實(shí)際使用時(shí)通常需要加一個(gè)在線校正環(huán)節(jié)用實(shí)際測(cè)量值反饋修正神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)。4. 實(shí)操落地從仿真到現(xiàn)場(chǎng)的關(guān)鍵步驟4.1 系統(tǒng)建模與數(shù)據(jù)準(zhǔn)備無(wú)論走哪個(gè)方向第一步都是把系統(tǒng)搞清楚。對(duì)于AI賦能控制你需要足夠的數(shù)據(jù)來(lái)訓(xùn)練模型對(duì)于控制約束AI你需要一個(gè)相對(duì)準(zhǔn)確的動(dòng)力學(xué)模型來(lái)設(shè)計(jì)約束。數(shù)據(jù)準(zhǔn)備階段有幾個(gè)容易踩的坑。第一個(gè)是數(shù)據(jù)質(zhì)量問題。工業(yè)現(xiàn)場(chǎng)的數(shù)據(jù)往往有缺失、噪聲、異常值如果不做清洗就直接訓(xùn)練模型很容易學(xué)到錯(cuò)誤的模式。我的做法是先做基本的統(tǒng)計(jì)分析看看數(shù)據(jù)的分布、缺失率、異常值比例然后用插值或?yàn)V波做初步處理最后用可視化工具人工檢查一遍確認(rèn)沒有明顯的異常。第二個(gè)是數(shù)據(jù)量問題。深度學(xué)習(xí)需要大量數(shù)據(jù)但工業(yè)系統(tǒng)往往運(yùn)行工況有限能采集到的有效數(shù)據(jù)不多。這時(shí)候可以考慮數(shù)據(jù)增強(qiáng)比如加噪聲、時(shí)間縮放、工況插值。但要注意增強(qiáng)后的數(shù)據(jù)必須仍然符合物理規(guī)律不能隨便生成。第三個(gè)是標(biāo)注問題。如果做監(jiān)督學(xué)習(xí)需要標(biāo)注數(shù)據(jù)。但工業(yè)數(shù)據(jù)標(biāo)注成本很高而且有些標(biāo)簽本身就有爭(zhēng)議。這時(shí)候可以考慮半監(jiān)督學(xué)習(xí)或自監(jiān)督學(xué)習(xí)減少對(duì)標(biāo)注的依賴。4.2 控制器設(shè)計(jì)與參數(shù)整定如果選擇神經(jīng)網(wǎng)絡(luò)控制器設(shè)計(jì)階段需要考慮網(wǎng)絡(luò)結(jié)構(gòu)、激活函數(shù)、損失函數(shù)等。我的經(jīng)驗(yàn)是不要一上來(lái)就用很深的網(wǎng)絡(luò)先從淺層網(wǎng)絡(luò)開始看看能不能解決問題。很多控制問題其實(shí)用兩三層網(wǎng)絡(luò)就夠了深層網(wǎng)絡(luò)反而容易過擬合。損失函數(shù)的設(shè)計(jì)很關(guān)鍵。對(duì)于控制問題常用的損失是跟蹤誤差的均方誤差。但單純用MSE可能會(huì)導(dǎo)致控制量抖動(dòng)所以通常還要加一個(gè)控制量變化率的懲罰項(xiàng)。另外如果系統(tǒng)有約束可以在損失函數(shù)里加懲罰項(xiàng)但更可靠的做法是用硬約束。參數(shù)整定方面學(xué)習(xí)率、批大小、訓(xùn)練輪數(shù)這些超參數(shù)需要反復(fù)調(diào)試。我的習(xí)慣是先用一個(gè)較小的學(xué)習(xí)率訓(xùn)練觀察損失下降曲線如果下降太慢就增大學(xué)習(xí)率如果震蕩就減小。批大小通常取32或64訓(xùn)練輪數(shù)根據(jù)驗(yàn)證集的表現(xiàn)來(lái)定一般到驗(yàn)證損失不再下降就停。4.3 安全約束的工程實(shí)現(xiàn)安全約束的實(shí)現(xiàn)方式取決于具體場(chǎng)景。如果約束比較簡(jiǎn)單比如控制量上下限可以直接在輸出層加一個(gè)裁剪操作。如果約束比較復(fù)雜比如狀態(tài)之間的耦合約束就需要用優(yōu)化方法。一個(gè)實(shí)用的做法是把安全約束分成兩層。第一層是硬約束比如物理極限這些約束在任何情況下都不能違反用簡(jiǎn)單的裁剪或投影實(shí)現(xiàn)。第二層是軟約束比如性能指標(biāo)這些約束可以在一定范圍內(nèi)放寬用懲罰函數(shù)或優(yōu)先級(jí)優(yōu)化實(shí)現(xiàn)。在工程實(shí)現(xiàn)時(shí)還要考慮計(jì)算資源的限制。如果控制器運(yùn)行在嵌入式平臺(tái)上計(jì)算能力有限就不能用太復(fù)雜的優(yōu)化算法。這時(shí)候可以考慮查表法、近似算法或者降階模型。4.4 在線監(jiān)控與回退機(jī)制任何AI控制系統(tǒng)上線后都需要監(jiān)控。監(jiān)控的指標(biāo)包括控制性能跟蹤誤差、響應(yīng)時(shí)間、安全指標(biāo)約束違反次數(shù)、安全邊界距離、模型健康度輸入分布漂移、輸出置信度。如果監(jiān)控發(fā)現(xiàn)異常需要有回退機(jī)制。最簡(jiǎn)單的回退是切換到傳統(tǒng)控制器比如PID。復(fù)雜一點(diǎn)的回退是切換到保守的AI策略比如降低控制增益、縮小動(dòng)作空間。我經(jīng)歷過一次線上事故神經(jīng)網(wǎng)絡(luò)控制器的輸入傳感器出現(xiàn)漂移導(dǎo)致控制器輸出異常。幸好當(dāng)時(shí)設(shè)置了監(jiān)控檢測(cè)到輸入分布偏離訓(xùn)練分布后自動(dòng)切換到了PID才沒有造成嚴(yán)重后果。這件事讓我深刻體會(huì)到AI控制系統(tǒng)可以很聰明但必須有兜底。5. 常見問題與排查技巧實(shí)錄5.1 模型在仿真中表現(xiàn)好但現(xiàn)場(chǎng)效果差這是最常見的問題。原因通常有幾個(gè)仿真模型和實(shí)際系統(tǒng)有差距、訓(xùn)練數(shù)據(jù)沒有覆蓋現(xiàn)場(chǎng)工況、傳感器噪聲和延遲沒有建模。排查思路先對(duì)比仿真和現(xiàn)場(chǎng)的輸入輸出數(shù)據(jù)看看差異在哪里。如果差異主要在穩(wěn)態(tài)可能是模型參數(shù)不準(zhǔn)如果差異主要在動(dòng)態(tài)可能是未建模動(dòng)態(tài)或延遲。然后檢查訓(xùn)練數(shù)據(jù)的覆蓋范圍看看現(xiàn)場(chǎng)工況是否在訓(xùn)練分布內(nèi)。最后檢查傳感器和執(zhí)行器的特性看看是否有非線性或延遲。解決方法如果仿真模型不準(zhǔn)可以用現(xiàn)場(chǎng)數(shù)據(jù)做系統(tǒng)辨識(shí)修正模型參數(shù)。如果訓(xùn)練數(shù)據(jù)不夠可以采集更多現(xiàn)場(chǎng)數(shù)據(jù)做增量訓(xùn)練。如果傳感器有問題可以加濾波或補(bǔ)償。5.2 控制器輸出抖動(dòng)嚴(yán)重抖動(dòng)通常是因?yàn)榭刂圃鲆嫣蠡蛘呱窠?jīng)網(wǎng)絡(luò)輸出不平滑。對(duì)于神經(jīng)網(wǎng)絡(luò)控制器可以在損失函數(shù)里加一個(gè)平滑懲罰項(xiàng)或者對(duì)輸出做低通濾波。對(duì)于傳統(tǒng)控制器可以降低增益或加微分濾波。但要注意過度平滑會(huì)降低響應(yīng)速度。所以需要在平滑和響應(yīng)之間做權(quán)衡。我的做法是先保證穩(wěn)定性再逐步提高響應(yīng)速度直到出現(xiàn)輕微抖動(dòng)然后回退一點(diǎn)。5.3 安全約束頻繁觸發(fā)導(dǎo)致性能下降如果安全約束經(jīng)常觸發(fā)說明AI策略經(jīng)常試圖違反約束。這時(shí)候需要檢查約束設(shè)計(jì)是否過于保守、AI訓(xùn)練時(shí)是否考慮了約束、約束的優(yōu)先級(jí)是否合理。解決方法如果約束太保守可以適當(dāng)放寬但要有依據(jù)。如果AI訓(xùn)練時(shí)沒有考慮約束可以在訓(xùn)練時(shí)加入約束懲罰或者用安全層做后處理。如果約束優(yōu)先級(jí)不合理可以調(diào)整約束的軟硬程度。5.4 模型更新后性能突然下降這通常是因?yàn)樾聰?shù)據(jù)分布和舊數(shù)據(jù)分布差異太大導(dǎo)致模型遺忘。解決方法保留一部分舊數(shù)據(jù)做回放或者用增量學(xué)習(xí)的方法只更新部分參數(shù)。另外模型更新后要先在仿真環(huán)境里驗(yàn)證確認(rèn)沒有問題再上線。6. 個(gè)人經(jīng)驗(yàn)與后續(xù)擴(kuò)展方向6.1 幾個(gè)讓我印象深刻的踩坑經(jīng)歷第一個(gè)坑是過度信任仿真。早期做強(qiáng)化學(xué)習(xí)控制時(shí)我們?cè)诜抡姝h(huán)境里調(diào)了很久效果很好就直接上真機(jī)了。結(jié)果真機(jī)的摩擦特性、延遲、噪聲都和仿真不一樣策略完全失效。后來(lái)我們養(yǎng)成了一個(gè)習(xí)慣任何策略在上真機(jī)之前必須先在真機(jī)的一個(gè)安全子集上做小范圍測(cè)試確認(rèn)基本可行再逐步擴(kuò)大范圍。第二個(gè)坑是忽視數(shù)據(jù)分布漂移。有一個(gè)項(xiàng)目模型訓(xùn)練時(shí)用的是夏季數(shù)據(jù)到了冬季環(huán)境溫度變化導(dǎo)致傳感器讀數(shù)分布偏移模型性能大幅下降。后來(lái)我們加了在線監(jiān)測(cè)檢測(cè)到分布漂移就觸發(fā)模型更新或回退。第三個(gè)坑是約束設(shè)計(jì)太復(fù)雜。有一次設(shè)計(jì)安全約束時(shí)考慮了很多極端情況結(jié)果約束條件太多優(yōu)化問題經(jīng)常無(wú)解。后來(lái)簡(jiǎn)化了約束只保留最關(guān)鍵的幾個(gè)問題就解決了。6.2 這個(gè)方向后續(xù)可以怎么擴(kuò)展從技術(shù)趨勢(shì)來(lái)看AI和控制的融合會(huì)越來(lái)越緊密。一個(gè)值得關(guān)注的方向是“可微分控制”把控制器的設(shè)計(jì)也納入到端到端的學(xué)習(xí)框架里讓控制器和AI模型一起優(yōu)化。另一個(gè)方向是“神經(jīng)Lyapunov函數(shù)”用神經(jīng)網(wǎng)絡(luò)來(lái)構(gòu)造Lyapunov函數(shù)從而證明神經(jīng)網(wǎng)絡(luò)控制器的穩(wěn)定性。從工程角度來(lái)看工具鏈的成熟很重要。目前做AI控制很多工作還是手工的比如約束設(shè)計(jì)、安全驗(yàn)證。未來(lái)如果有更好的工具支持比如自動(dòng)化的約束生成、形式化驗(yàn)證落地會(huì)容易很多。從應(yīng)用場(chǎng)景來(lái)看除了傳統(tǒng)的工業(yè)控制AI與控制融合在機(jī)器人、自動(dòng)駕駛、能源管理等領(lǐng)域都有很大空間。但無(wú)論哪個(gè)場(chǎng)景安全約束都是繞不開的問題。所以我的判斷是短期內(nèi)“控制約束AI”會(huì)比“AI賦能控制”更容易落地因?yàn)榍罢呓鉀Q的是剛需后者解決的是錦上添花。6.3 給入行者的幾點(diǎn)建議如果你是從控制背景進(jìn)入這個(gè)領(lǐng)域建議先補(bǔ)一下機(jī)器學(xué)習(xí)的基礎(chǔ)尤其是深度學(xué)習(xí)的基本原理和常用框架。不用學(xué)得太深但要知道怎么訓(xùn)練一個(gè)簡(jiǎn)單的網(wǎng)絡(luò)怎么看損失曲線怎么調(diào)超參數(shù)。如果你是從AI背景進(jìn)入這個(gè)領(lǐng)域建議先補(bǔ)一下控制理論的基礎(chǔ)尤其是穩(wěn)定性分析、反饋控制、狀態(tài)空間方法。這些知識(shí)會(huì)讓你理解為什么控制工程師那么在意穩(wěn)定性和安全性。無(wú)論什么背景都建議動(dòng)手做一個(gè)完整的項(xiàng)目從數(shù)據(jù)采集到控制器設(shè)計(jì)到現(xiàn)場(chǎng)部署。只有走完整個(gè)流程才能真正理解AI和控制融合的難點(diǎn)在哪里。最后保持敬畏心?？刂葡到y(tǒng)往往涉及人身安全或重大財(cái)產(chǎn)任何疏忽都可能造成嚴(yán)重后果。AI可以幫你做得更好但不能替代你對(duì)系統(tǒng)的理解和責(zé)任。