華為云聯(lián)合瑞金醫(yī)院發(fā)布瑞智病理大模型 RuiPath 2.0這標(biāo)志著病理 AI 正式從“單點(diǎn)工具”進(jìn)入“系統(tǒng)化平臺(tái)”階段。很多人以為病理大模型的難點(diǎn)只是算法但臨床病理科的實(shí)際情況要復(fù)雜得多一張全切片病理圖像的分辨率往往達(dá)到億級(jí)像素單文件可能超過(guò) 1GB標(biāo)注依賴資深醫(yī)生不同醫(yī)院的染色條件和掃描設(shè)備也不一致。發(fā)布一個(gè)模型只是第一步真正決定系統(tǒng)能否長(zhǎng)期運(yùn)轉(zhuǎn)的是數(shù)據(jù)管理、算力調(diào)度、推理服務(wù)、評(píng)估回滾、隱私安全和科室工作流之間的配合。這篇文章從工程視角拆解病理大模型落地鏈路并以華為云 CCE 和華為云 Stack 場(chǎng)景為例給出一套可復(fù)現(xiàn)的推理服務(wù)搭建思路。適合醫(yī)療 AI 平臺(tái)工程師、病理信息化團(tuán)隊(duì)和數(shù)據(jù)科學(xué)家閱讀學(xué)完后能圍繞模型文件設(shè)計(jì)出完整的部署、驗(yàn)證和運(yùn)維體系。1. 病理大模型解決的不是“識(shí)別一張圖”而是“重建一條診斷鏈路”1.1 從單任務(wù)模型到大模型病理 AI 的邊界發(fā)生了變化早期病理 AI 以單癌種單任務(wù)為主比如只識(shí)別某個(gè)淋巴結(jié)區(qū)域是否發(fā)生轉(zhuǎn)移或者只分割某一種腺體。實(shí)現(xiàn)方式通常是把 WSI 切成小塊再用分類網(wǎng)絡(luò)逐個(gè)預(yù)測(cè)。這種方案門檻低但問(wèn)題很突出一個(gè)模型只解決一個(gè)問(wèn)題染色條件不同、掃描儀不同、醫(yī)院不同性能就可能下降。因?yàn)槟Ｐ蛷那袎K中學(xué)到的大多是顏色和紋理統(tǒng)計(jì)特征而不是病理學(xué)意義上的結(jié)構(gòu)上下文。大模型路線則不同。RuiPath 2.0 所屬的病理大模型一般會(huì)在大規(guī)模病理圖像上先做預(yù)訓(xùn)練讓模型學(xué)習(xí)通用的病理視覺(jué)表示再通過(guò)少量標(biāo)注數(shù)據(jù)適配癌種識(shí)別、組織分割、突變預(yù)測(cè)等具體任務(wù)。這個(gè)邏輯與自然語(yǔ)言處理大模型相似先用海量數(shù)據(jù)學(xué)會(huì)通用規(guī)律再在具體任務(wù)上微調(diào)。對(duì)技術(shù)團(tuán)隊(duì)來(lái)說(shuō)這種轉(zhuǎn)變意味著兩件事第一模型參數(shù)量和計(jì)算量變大不能再指望單機(jī)腳本扛住全部推理第二模型不再是靜態(tài)產(chǎn)物它需要根據(jù)新數(shù)據(jù)、新任務(wù)和醫(yī)生反饋持續(xù)更新所以后端必須配套模型版本管理、數(shù)據(jù)版本管理和可回滾的推理服務(wù)。理解這一點(diǎn)很重要。病理醫(yī)生最終看到的不是模型內(nèi)部的高維向量而是“某個(gè)坐標(biāo)區(qū)域?yàn)槭裁幢慌袨殛?yáng)性”“周圍腺體結(jié)構(gòu)是否支持這個(gè)結(jié)論”“需不需要考慮罕見(jiàn)亞型”。如果系統(tǒng)只返回一個(gè)概率價(jià)值非常有限。常見(jiàn)做法是把模型輸出與切片坐標(biāo)、形態(tài)學(xué)特征和結(jié)構(gòu)化報(bào)告結(jié)合形成輔助診斷鏈路。不同模型具體怎么實(shí)現(xiàn)不一定相同但“重建診斷鏈路”是所有病理大模型應(yīng)用都要面對(duì)的方向。1.2 數(shù)據(jù)、模型、平臺(tái)和應(yīng)用四個(gè)層次缺一不可病理大模型落地時(shí)至少涉及四個(gè)技術(shù)層次。數(shù)據(jù)層包括病理切片文件、診斷報(bào)告、隨訪結(jié)果和標(biāo)注數(shù)據(jù)。它是整個(gè)系統(tǒng)的基礎(chǔ)。病理切片格式多樣常見(jiàn)有 .svs、.ndpi、.mrx 等必須統(tǒng)一為平臺(tái)可讀的格式。報(bào)告中還包含自然語(yǔ)言診斷結(jié)論可以用來(lái)訓(xùn)練多模態(tài)模型或建立知識(shí)檢索。表示層指模型本身包括視覺(jué)編碼器、多模態(tài)對(duì)齊層和下游任務(wù)頭。預(yù)訓(xùn)練模型權(quán)重通常很大推理時(shí)需要 GPU 和專門的推理框架。這個(gè)層次要解決的問(wèn)題是模型的輸入輸出格式是什么推理時(shí)間是毫秒級(jí)還是秒級(jí)單卡能承載多少并發(fā)。平臺(tái)層解決調(diào)度問(wèn)題。模型推理服務(wù)需要以容器方式運(yùn)行在 Kubernetes 集群上由 CCE 或華為云 Stack 提供 GPU 調(diào)度、彈性伸縮和日志采集。平臺(tái)層還要負(fù)責(zé)權(quán)限控制、限流和審計(jì)保證醫(yī)院內(nèi)網(wǎng)環(huán)境下的安全合規(guī)。應(yīng)用層是最終面向醫(yī)生的界面包括切片瀏覽、結(jié)果疊加、報(bào)告生成和人工修正。應(yīng)用層設(shè)計(jì)要符合病理醫(yī)生閱片習(xí)慣不能把內(nèi)部接口結(jié)果直接暴露給醫(yī)生。四層缺一不可。傳統(tǒng)項(xiàng)目容易只做第二層把模型文件發(fā)給信息科卻忽略數(shù)據(jù)規(guī)范、容器平臺(tái)和醫(yī)生工作流最終上線后無(wú)法維護(hù)。1.3 工程團(tuán)隊(duì)要承擔(dān)什么職責(zé)病理大模型的落地需要多角色協(xié)作。數(shù)據(jù)工程師負(fù)責(zé)把歷史 WSI 處理成訓(xùn)練和測(cè)試數(shù)據(jù)集同時(shí)做好患者隱私脫敏。算法工程師負(fù)責(zé)預(yù)訓(xùn)練、微調(diào)、評(píng)估和模型導(dǎo)出。平臺(tái)工程師負(fù)責(zé)構(gòu)建鏡像、編寫(xiě)部署清單、配置監(jiān)控告警。病理醫(yī)生負(fù)責(zé)定義臨床問(wèn)題、標(biāo)注金標(biāo)準(zhǔn)和審核模型輸出。只有把這幾類工作放到同一條流水線里才能形成數(shù)據(jù)回流和模型迭代閉環(huán)。2. 部署前先想清楚你需要的是一套推理平臺(tái)不是一個(gè)模型文件2.1 病理大模型部署的典型架構(gòu)一個(gè)可用的病理大模型推理平臺(tái)調(diào)用鏈通常是切片存儲(chǔ)、預(yù)處理服務(wù)、GPU 推理服務(wù)、應(yīng)用網(wǎng)關(guān)、醫(yī)生工作臺(tái)、審計(jì)系統(tǒng)。切片存放在分布式存儲(chǔ)或?qū)ο蟠鎯?chǔ)中預(yù)處理服務(wù)負(fù)責(zé)把 WSI 切成 tile推理服務(wù)接收 tile 并返回結(jié)構(gòu)化結(jié)果醫(yī)生工作臺(tái)負(fù)責(zé)展示并記錄人工修改。在學(xué)習(xí)和單機(jī)驗(yàn)證階段可以把鏈路簡(jiǎn)化為一個(gè) Python 腳本。但進(jìn)入醫(yī)院環(huán)境后容器化幾乎是必選方案。原因有四GPU 資源需要統(tǒng)一調(diào)度不能綁定某臺(tái)物理機(jī)。多個(gè)模型版本需要并行灰度不能停機(jī)替換。醫(yī)院白天門診存在并發(fā)峰值推理服務(wù)需要彈性擴(kuò)容。日志、監(jiān)控、權(quán)限和審計(jì)需要統(tǒng)一平臺(tái)管理。華為云 CCE 正好覆蓋這些需求。它提供了容器集群、GPU 節(jié)點(diǎn)池、負(fù)載均衡和監(jiān)控能力適合承載模型推理服務(wù)。2.2 學(xué)習(xí)環(huán)境與生產(chǎn)環(huán)境的差異要提前拉開(kāi)很多團(tuán)隊(duì)先用開(kāi)發(fā)機(jī)跑通模型然后直接去生產(chǎn)環(huán)境部署結(jié)果在鏡像、依賴、存儲(chǔ)和權(quán)限上反復(fù)踩坑。下面是兩類環(huán)境的典型差異項(xiàng)目學(xué)習(xí)驗(yàn)證環(huán)境醫(yī)院生產(chǎn)環(huán)境數(shù)據(jù)規(guī)模幾十張 WSI本地磁盤全院多年切片TB 到 PB 級(jí)GPU 資源單卡即可多節(jié)點(diǎn) GPU 集群預(yù)留峰值部署方式單機(jī) Docker 或腳本華為云 CCE 或華為云 Stack 容器平臺(tái)模型更新手動(dòng)替換文件灰度發(fā)布、版本回滾權(quán)限控制開(kāi)發(fā)人員可訪問(wèn)按角色細(xì)粒度審計(jì)監(jiān)控基本日志延遲、成功率、隊(duì)列深度、資源告警隱私合規(guī)脫敏數(shù)據(jù)院內(nèi)私有化數(shù)據(jù)不出域如果選擇華為云 Stack 做私有化部署要提前查閱對(duì)應(yīng)版本的部署文檔確認(rèn) Kubernetes 版本、GPU 驅(qū)動(dòng)、容器網(wǎng)絡(luò)和存儲(chǔ)類型是否一致。開(kāi)發(fā)機(jī)上驗(yàn)證過(guò)的 CUDA 版本并不能直接等同于生產(chǎn)鏡像版本很多容器啟動(dòng)失敗都源于基礎(chǔ)鏡像與驅(qū)動(dòng)不匹配。2.3 最小工程目錄設(shè)計(jì)建議按下面的目錄組織代碼和部署文件pathology-inference/ ├── docker/ │ ├── Dockerfile │ └── requirements.txt ├── kubernetes/ │ ├── deployment.yaml │ └── service.yaml ├── src/ │ ├── api.py │ ├── preprocess.py │ └── model_loader.py ├── models/ │ └── mock_model.pt └── tests/ ├── test_api.py └── test_preprocess.pydocker目錄放置鏡像構(gòu)建文件kubernetes目錄放置部署清單src目錄放推理服務(wù)源碼models目錄只放用于驗(yàn)證的 demo 權(quán)重真實(shí)環(huán)境建議把權(quán)重放到對(duì)象存儲(chǔ)或模型倉(cāng)庫(kù)通過(guò)掛載方式加載避免每次發(fā)布重新打鏡像。3. 在華為云 CCE 上部署病理模型推理服務(wù)示例3.1 準(zhǔn)備模型文件與容器鏡像下面示例使用一個(gè) mock 模型演示完整流程真實(shí)項(xiàng)目需要替換為訓(xùn)練好的權(quán)重。Dockerfile 編寫(xiě)如下FROM nvcr.io/nvidia/pytorch:23.10-py3 WORKDIR /app COPY requirements.txt . RUN pip install --no-cache-dir -r requirements.txt COPY src/ ./src/ COPY models/ ./models/ ENV MODEL_PATH/app/models/mock_model.pt ENV DEVICEcuda EXPOSE 8000 CMD [uvicorn, src.api:app, --host, 0.0.0.0, --port, 8000]requirements.txt 可以這樣寫(xiě)fastapi0.111.0 uvicorn[standard]0.30.1 openslide-python1.3.1 pydantic2.7.1示例里把模型文件復(fù)制進(jìn)鏡像是為了快速演示。生產(chǎn)環(huán)境建議讓鏡像保持“代碼不可變”模型文件通過(guò) ConfigMap 之外的持久卷或模型倉(cāng)庫(kù)加載這樣更新權(quán)重時(shí)不需要重新構(gòu)建整個(gè)鏡像。3.2 病理推理 HTTP 服務(wù)接口使用 FastAPI 實(shí)現(xiàn)一個(gè)最小推理接口包含健康檢查和推理兩個(gè)端點(diǎn)# src/api.py from typing import List from fastapi import FastAPI from pydantic import BaseModel app FastAPI(titlepathology-inference) class TileItem(BaseModel): tile_id: str image_base64: str class InferRequest(BaseModel): items: List[TileItem] threshold: float 0.5 class InferResponse(BaseModel): results: List[dict] model_version: str class MockPathologyModel: def predict_batch(self, tiles): results [] for t in tiles: results.append({ tile_id: t.tile_id, pred_class: tumor, confidence: 0.82, }) return results model MockPathologyModel() app.get(/health) def health(): return {status: ok} app.post(/v1/infer, response_modelInferResponse) def infer(req: InferRequest): # 真實(shí)項(xiàng)目中這里需要完成 base64 解碼、歸一化、模型推理和后處理 results model.predict_batch(req.items) return InferResponse(resultsresults, model_versionmock-1.0)接口設(shè)計(jì)需要關(guān)注三點(diǎn)。第一輸入使用tile_id而不是完整切片路徑因?yàn)椴±砬衅募粦?yīng)直接暴露給外部調(diào)用方。第二圖片傳輸采用 base64 字符串適合內(nèi)部服務(wù)間小批量傳輸?shù)⒁庹?qǐng)求體大小限制。第三模型加載要在進(jìn)程啟動(dòng)時(shí)完成不能每次請(qǐng)求都重新加載權(quán)重。3.3 編寫(xiě) Kubernetes 部署清單創(chuàng)建 Deployment 和 ServiceapiVersion: apps/v1 kind: Deployment metadata: name: ruipath-inference namespace: medical-ai spec: replicas: 1 selector: matchLabels: app: ruipath-inference template: metadata: labels: app: ruipath-inference spec: containers: - name: inference image: registry.example.com/pathology/ruipath-inference:latest ports: - containerPort: 8000 name: http env: - name: MODEL_PATH value: /app/models/mock_model.pt - name: DEVICE value: cuda resources: limits: nvidia.com/gpu: 1 requests: cpu: 2 memory: 8Gi readinessProbe: httpGet: path: /health port: http initialDelaySeconds: 10 periodSeconds: 5apiVersion: v1 kind: Service metadata: name: ruipath-inference namespace: medical-ai spec: selector: app: ruipath-inference ports: - port: 80 targetPort: 8000配置里有兩個(gè)關(guān)鍵點(diǎn)resources.limits聲明了需要一張 GPU調(diào)度器會(huì)把 Pod 調(diào)度到有 GPU 的節(jié)點(diǎn)readinessProbe用/health做就緒檢查避免流量打到尚未加載完模型的 Pod 上。3.4 執(zhí)行部署并驗(yàn)證先創(chuàng)建命名空間再應(yīng)用清單kubectl create namespace medical-ai kubectl apply -f kubernetes/deployment.yaml kubectl apply -f kubernetes/service.yaml kubectl rollout status deployment/ruipath-inference -n medical-ai kubectl get pods -n medical-ai -o wide查看 Service 地址kubectl get svc -n medical-ai然后發(fā)送推理請(qǐng)求curl -X POST http://service-ip/v1/infer \ -H Content-Type: application/json \ -d { items: [ { tile_id: case_001_tile_0_0, image_base64: base64字符串 } ], threshold: 0.5 }正常返回結(jié)果如下{ results: [ { tile_id: case_001_tile_0_0, pred_class: tumor, confidence: 0.82 } ], model_version: mock-1.0 }這里的部署流程只是驗(yàn)證服務(wù)鏈路真實(shí)病理業(yè)務(wù)還需要接入切片讀取和預(yù)處理模塊。4. 病理切片預(yù)處理和推理接口不能照搬通用圖像接口4.1 WSI 不是普通圖像普通圖像識(shí)別任務(wù)通常把整張圖縮放到固定尺寸但病理 WSI 無(wú)法這樣做。一張 40 倍物鏡下的 WSI 可能包含幾十億像素直接縮放到 224×224 會(huì)丟失幾乎所有細(xì)胞結(jié)構(gòu)信息。因此推理前必須把 WSI 切成合適大小的 tile再分批送入模型。讀取 WSI 推薦使用 OpenSlide它支持多種格式并能按不同分辨率層級(jí)讀取import openslide wsi_path case_001.svs slide openslide.OpenSlide(wsi_path) level_count slide.level_count level_dimensions slide.level_dimensions print(level_count, level_dimensions) tile_size 512 overlap 64 for x in range(0, slide.dimensions[0], tile_size - overlap): for y in range(0, slide.dimensions[1], tile_size - overlap): tile slide.read_region((x, y), 0, (tile_size, tile_size)).convert(RGB) # 這里將 tile 交給預(yù)處理或直接送入模型read_region在切片邊緣會(huì)返回黑色背景需要根據(jù)坐標(biāo)判斷是否為有效區(qū)域。不要使用PIL.Image.open直接讀取 WSI那會(huì)內(nèi)存溢出或超時(shí)。4.2 tile 切塊參數(shù)不是越大越好切塊參數(shù)直接影響顯存占用和推理質(zhì)量。常見(jiàn)參數(shù)如下參數(shù)含義建議初始值影響tile_size切塊邊長(zhǎng)256-1024太小上下文不足太大顯存壓力大overlap相鄰切塊重疊像素0-128減少邊緣遺漏但增加計(jì)算量level分辨率層級(jí)0 或 10 細(xì)節(jié)最多但速度慢1 速度快但細(xì)節(jié)少batch_size每次推理數(shù)量8-64影響吞吐和顯存占用建議先在小數(shù)據(jù)集上做壓測(cè)找到一個(gè)“顯存不溢出、速度可接受、醫(yī)生認(rèn)可”的組合。不要照搬公開(kāi)論文里的參數(shù)因?yàn)椴煌t(yī)院的切片大小和設(shè)備差異很大。4.3 推理結(jié)果要結(jié)構(gòu)化病理推理服務(wù)不能只返回一個(gè)類別名。建議輸出包含坐標(biāo)、類別、置信度和版本信息{ results: [ { tile_id: case_001_level0_x0_y0, coord: {x: 0, y: 0}, pred_class: tumor, confidence: 0.87 } ], model_version: ruipath-2.0-mock }后處理階段還需要考慮置信度閾值和區(qū)域合并。低置信度區(qū)域不要直接丟棄可以選擇標(biāo)記為“待醫(yī)生確認(rèn)”。這樣模型結(jié)果才不會(huì)給病理醫(yī)生造成“機(jī)器已經(jīng)下了結(jié)論”的錯(cuò)覺(jué)。5. 模型評(píng)估與臨床驗(yàn)證技術(shù)指標(biāo)不等于臨床價(jià)值5.1 離線評(píng)估指標(biāo)要圍繞臨床場(chǎng)景選擇模型評(píng)估不能只看整體準(zhǔn)確率。病理任務(wù)經(jīng)常面臨類別不均衡例如絕大多數(shù) tile 是正常組織只有少量 tile 是病變區(qū)域。如果只看準(zhǔn)確率模型可以“全部預(yù)測(cè)正常”也得到很高分?jǐn)?shù)。推薦使用以下指標(biāo)指標(biāo)說(shuō)明適用場(chǎng)景AUC區(qū)分正負(fù)樣本的能力初步篩選模型F1-score精確率和召回率的調(diào)和平均不均衡分類敏感度陽(yáng)性樣本查全率腫瘤篩查特異度陰性樣本查全率控制假陽(yáng)性平均精確率不均衡場(chǎng)景下的查準(zhǔn)表現(xiàn)可疑區(qū)域排序敏感度和特異度一定要一起看。病理輔助系統(tǒng)如果漏檢后果嚴(yán)重如果假陽(yáng)性過(guò)多醫(yī)生會(huì)被大量無(wú)效告警干擾最終放棄使用。5.2 數(shù)據(jù)劃分必須按患者維度切分訓(xùn)練集、驗(yàn)證集和測(cè)試集必須按患者劃分不能按 tile 隨機(jī)劃分。同一患者的多個(gè)切片之間高度相關(guān)如果同一個(gè)患者的切片既出現(xiàn)在訓(xùn)練集又出現(xiàn)在測(cè)試集模型效果會(huì)被嚴(yán)重高估。一個(gè)簡(jiǎn)單的按患者劃分示例patients sorted(set(annotations[patient_id])) train_patients patients[: int(len(patients) * 0.7)] valid_patients patients[int(len(patients) * 0.7): int(len(patients) * 0.85)] test_patients patients[int(len(patients) * 0.85):]真實(shí)項(xiàng)目還要考慮醫(yī)院和掃描儀維度。最好使用多中心數(shù)據(jù)驗(yàn)證至少要有外部驗(yàn)證集否則模型換一個(gè)環(huán)境后很容易性能崩塌。5.3 從技術(shù)驗(yàn)證到臨床試點(diǎn)要分步走模型在測(cè)試集上表現(xiàn)好不代表能在科室直接使用。建議按以下順序推進(jìn)離線回放用歷史切片跑一遍對(duì)比模型結(jié)果與原始報(bào)告。雙盲自評(píng)讓病理醫(yī)生在不看模型結(jié)果的情況下重新判讀再對(duì)比。人機(jī)協(xié)同醫(yī)生先看模型結(jié)果再給出最終診斷。試點(diǎn)運(yùn)行選擇少量病種記錄醫(yī)生使用反饋和修改次數(shù)。注意不要用訓(xùn)練集樣本做驗(yàn)證按患者劃分后再進(jìn)入多中心驗(yàn)證。整個(gè)過(guò)程要保留完整記錄包括模型版本、切片標(biāo)識(shí)、醫(yī)生修改結(jié)果和耗時(shí)。這些數(shù)據(jù)是后續(xù)模型迭代的重要依據(jù)。6. 病理大模型上線后的運(yùn)維與安全6.1 模型版本管理不能靠文件名區(qū)分模型文件一多靠文件名區(qū)分必然出錯(cuò)。推薦在模型倉(cāng)庫(kù)中記錄以下信息字段示例說(shuō)明模型名稱ruipath-2.0業(yè)務(wù)模型名版本號(hào)v2.0.1語(yǔ)義化版本權(quán)重哈希sha256:abc123...確保文件完整性訓(xùn)練數(shù)據(jù)范圍2020-2024 多中心數(shù)據(jù)來(lái)源評(píng)估結(jié)果AUC 0.95關(guān)鍵指標(biāo)發(fā)布時(shí)間2025-06-01可追溯推理服務(wù)啟動(dòng)時(shí)應(yīng)該打印加載的模型版本并在響應(yīng)中返回model_version字段。這樣醫(yī)生或前端發(fā)現(xiàn)異常時(shí)能快速定位是哪個(gè)版本產(chǎn)生的輸出。6.2 監(jiān)控與告警要覆蓋業(yè)務(wù)和技術(shù)指標(biāo)GPU 推理服務(wù)的監(jiān)控不能只看 CPU 和內(nèi)存還要關(guān)注推理延遲、隊(duì)列長(zhǎng)度和 GPU 利用率。建議采集以下指標(biāo)指標(biāo)告警建議說(shuō)明推理成功率低于 99% 告警服務(wù)是否可用P95 推理延遲超過(guò) 5 秒告警醫(yī)生等待體驗(yàn)GPU 利用率持續(xù)低于 20% 提示資源是否浪費(fèi)隊(duì)列深度超過(guò) 100 告警是否要擴(kuò)容顯存占用超過(guò) 90% 告警是否可能 OOM日志中要記錄每次請(qǐng)求的tile_id、耗時(shí)、模型版本和返回碼。不要只在異常時(shí)打日志正常的慢請(qǐng)求也需要記錄因?yàn)楫惓Ｍ鶑暮臅r(shí)突增開(kāi)始。6.3 數(shù)據(jù)隱私與訪問(wèn)控制病理切片包含患者隱私生產(chǎn)環(huán)境必須控制訪問(wèn)邊界。切片文件不應(yīng)該掛在所有人都能訪問(wèn)的共享目錄上建議通過(guò)對(duì)象存儲(chǔ)的簽名 URL 或后端服務(wù)做代理訪問(wèn)。私有化部署場(chǎng)景下華為云 Stack 可以保證數(shù)據(jù)不出院但應(yīng)用層權(quán)限設(shè)計(jì)仍然要做細(xì)。醫(yī)生、技術(shù)人員、管理員應(yīng)具有不同角色重要操作例如導(dǎo)出結(jié)果、修改模型配置必須審計(jì)。推理服務(wù)也應(yīng)限制來(lái)源 IP只允許內(nèi)網(wǎng)醫(yī)生工作臺(tái)和預(yù)處理服務(wù)訪問(wèn)。注意不要在日志中輸出患者姓名、住院號(hào)等明文隱私信息日志里只保留脫敏后的樣本編號(hào)。7. 常見(jiàn)問(wèn)題排查從鏡像啟動(dòng)到推理超時(shí)7.1 容器啟動(dòng)后立即退出現(xiàn)象常見(jiàn)原因檢查方式處理建議Pod 一直 CrashLoopBackOff模型路徑不存在kubectl logs確認(rèn)MODEL_PATH與鏡像內(nèi)文件一致啟動(dòng)時(shí)缺依賴requirements 未安裝全kubectl logs進(jìn)入容器檢查 pip list端口未監(jiān)聽(tīng)啟動(dòng)命令錯(cuò)誤kubectl exec內(nèi)執(zhí)行 curl檢查 CMD 參數(shù)和 uvicorn 配置鏡像啟動(dòng)失敗十有八九是文件路徑和啟動(dòng)命令問(wèn)題。建議先本地用docker run驗(yàn)證再推到集群。7.2 GPU 不可用或 CUDA 報(bào)錯(cuò)現(xiàn)象是推理請(qǐng)求返回CUDA error: no kernel image is available。常見(jiàn)原因是容器沒(méi)有掛載 GPU或基礎(chǔ)鏡像的 CUDA 版本與宿主機(jī)驅(qū)動(dòng)不兼容。在容器里執(zhí)行nvidia-smi如果命令不存在或報(bào)錯(cuò)先檢查宿主機(jī)驅(qū)動(dòng)是否正常再確認(rèn)集群是否安裝了 NVIDIA Device Plugin。然后檢查 Deployment 的resources.limits是否包含nvidia.com/gpu不要只寫(xiě)limits.memory。7.3 推理超時(shí)和顯存溢出常見(jiàn)場(chǎng)景是多個(gè)醫(yī)生同時(shí)打開(kāi)切片預(yù)處理線程把大量 tile 一次性送入模型GPU 顯存不夠直接 OOM。解決方案有三個(gè)方向降低 batch_size。對(duì) tile 隊(duì)列做限流。推理服務(wù)副本數(shù)擴(kuò)容。如果單張 WSI 預(yù)處理時(shí)間過(guò)長(zhǎng)可以增加緩存層把已經(jīng)切好的 tile 緩存在對(duì)象存儲(chǔ)中避免同一張切片反復(fù)預(yù)處理。7.4 模型輸出和醫(yī)生預(yù)期不一致先不要懷疑模型“精度不行”按這個(gè)順序排查檢查推理服務(wù)加載的模型版本是否是預(yù)期版本。對(duì)比訓(xùn)練和推理時(shí)的預(yù)處理參數(shù)顏色歸一化、tile_size、overlap 是否一致。檢查 WSI 讀取層級(jí)和坐標(biāo)換算是否有誤。檢查結(jié)果后處理閾值是否被改過(guò)。找 5-10 例醫(yī)生不認(rèn)可的輸出看錯(cuò)誤是否有規(guī)律。注意不要只驗(yàn)證程序能啟動(dòng)還要驗(yàn)證輸入、輸出、異常分支和日志是否符合預(yù)期。8. 最佳實(shí)踐與下一步擴(kuò)展8.1 病理大模型上線前檢查清單檢查項(xiàng)是否必須說(shuō)明模型權(quán)重備份和哈希是確?？苫貪L推理服務(wù)健康檢查是/health必須可用數(shù)據(jù)脫敏和訪問(wèn)審計(jì)是患者信息不出域GPU 驅(qū)動(dòng)和容器插件是否則推理服務(wù)無(wú)法使用 GPU并發(fā)壓測(cè)和超時(shí)配置是避免醫(yī)生使用時(shí)白屏與病理系統(tǒng)或 PACS 的接口聯(lián)調(diào)是數(shù)據(jù)流要完整模型輸出的人工復(fù)核流程是輔助而非自動(dòng)決策8.2 值得長(zhǎng)期堅(jiān)持的工程原則配置外置化。模型路徑、GPU 卡數(shù)、batch_size、閾值都應(yīng)該通過(guò)環(huán)境變量或配置中心管理不要寫(xiě)死在代碼里。模型和代碼分離。不要每次更新模型都重新構(gòu)建鏡像用掛載或模型倉(cāng)庫(kù)方式加載權(quán)重。日志結(jié)構(gòu)化。每條推理日志應(yīng)包含版本號(hào)、耗時(shí)、切片標(biāo)識(shí)和坐標(biāo)方便回溯。灰度發(fā)布。新模型先在副本數(shù)為 1 的 Deployment 中運(yùn)行對(duì)比舊模型輸出確認(rèn)無(wú)誤后再切全量流量。8.3 從 RuiPath 2.0 看醫(yī)療大模型的擴(kuò)展方向病理大模型一旦接入科室流程后續(xù)擴(kuò)展方向通常包括從單張切片識(shí)別擴(kuò)展到多模態(tài)報(bào)告生成把切片圖像與病理報(bào)告文本對(duì)齊用知識(shí)檢索輔助醫(yī)生查找相似病例在科研場(chǎng)景中用模型自動(dòng)篩選入組病例在質(zhì)控場(chǎng)景中復(fù)核初診醫(yī)生書(shū)寫(xiě)是否規(guī)范。這些方向都建立在同一套工程底座上穩(wěn)定的數(shù)據(jù)管道、可擴(kuò)展的推理平臺(tái)和可追溯的評(píng)估機(jī)制。RuiPath 2.0 的發(fā)布讓更多團(tuán)隊(duì)意識(shí)到醫(yī)療大模型的競(jìng)爭(zhēng)不只是模型訓(xùn)練更是從數(shù)據(jù)到服務(wù)、從指標(biāo)到臨床價(jià)值的全鏈路工程能力。技術(shù)團(tuán)隊(duì)如果能把部署、評(píng)估和運(yùn)維這層底座做扎實(shí)后續(xù)無(wú)論模型如何迭代都能快速接住變化。