【免費(fèi)下載鏈接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.項(xiàng)目地址https://gitcode.com/GitHub_Trending/te/Model-Optimizer點(diǎn)擊查看免費(fèi)下載本文以 NVIDIA Model-Optimizer 倉(cāng)庫(kù)中的 Windows 基準(zhǔn)測(cè)試文檔 為骨架系統(tǒng)梳理 ModelOpt-Windows 對(duì)主流 LLM 進(jìn)行 ONNX INT4 量化后的顯存節(jié)省、推理加速與精度表現(xiàn)并深入解析 MMLU、Perplexity、KL 散度與 FVD 四類評(píng)測(cè)指標(biāo)的測(cè)試方法。讀完本文你將掌握如何閱讀與復(fù)現(xiàn)這套 Windows RTX GPU 上的量化基準(zhǔn)結(jié)果并理解混合精度、AWQ/RTN 等算法對(duì)模型質(zhì)量的影響?；鶞?zhǔn)測(cè)試的定位與測(cè)試環(huán)境Model-Optimizer WindowsModelOpt-Windows的目標(biāo)是在原生 Windows RTX GPU 上快速高效地量化大模型輸出符合 ONNX 標(biāo)準(zhǔn)的優(yōu)化模型從而無(wú)縫對(duì)接 ONNX Runtime 與 DirectMLDML等推理框架。本文所解讀的 Benchmark.md 即為該能力提供的一組參考基準(zhǔn)文檔開篇特別強(qiáng)調(diào)表中結(jié)果僅作為參考點(diǎn)不應(yīng)被視為 ModelOpt-Windows 能夠達(dá)到的最大性能。性能測(cè)試環(huán)境ONNX INT4 vs ONNX FP16性能指標(biāo)統(tǒng)一使用 onnxruntime-genai 官方的 Python perf benchmark運(yùn)行在DirectML 后端上具體配置如下操作系統(tǒng)WindowsGPURTX 4090軟件NVIDIA Model Optimizer v0.19.0Batch Size1所有顯存節(jié)省GPU Memory Saving與生成階段推理加速Generation Phase Inference Speedup均以 ONNX FP16 模型為基線對(duì)比。精度測(cè)試環(huán)境MMLU基線模型GenAI Model Builder 生成的 FP16 ONNX 模型使用 DML EP量化模型使用 ModelOpt-Windows 對(duì) FP16 ONNX 模型進(jìn)行 INT4 AWQ 量化軟件棧Windows、RTX 4090、nvidia-modelopt v0.19.0、onnxruntime-genai-directml 0.4、transformers 4.44精度測(cè)試環(huán)境Perplexity / KL 散度操作系統(tǒng)WindowsGPURTX 5090軟件棧nvidia-modelopt v0.39.0、onnxruntime-genai-cuda 0.9.2、onnxruntime-gpu 1.23.0、torch 2.8.0cu128、transformers 4.49.0可以看到同一份基準(zhǔn)文檔覆蓋了兩個(gè)不同時(shí)期的測(cè)試環(huán)境v0.19.0 與 v0.39.0閱讀結(jié)果時(shí)需注意區(qū)分對(duì)應(yīng)版本與 GPU 型號(hào)。一、性能對(duì)比ONNX INT4 vs ONNX FP16下表匯總了 5 個(gè)流行模型在輸入 prompt 長(zhǎng)度 128、輸出 256 tokens 條件下的顯存節(jié)省與生成階段加速倍數(shù)基準(zhǔn)為 FP16Batch Size1ModelInput Prompt LengthOutput tokens lengthGPU Memory SavingGeneration Phase Inference SpeedupLlama3.1-8B-Instruct1282562.44x2.68xPhi3.5-mini-Instruct1282562.53x2.51xMistral-7B-Instruct-v0.31282562.88x3.41xLlama3.2-3B-Instruct1282561.96x2.19xGemma-2b-it1282561.64x1.94x從數(shù)據(jù)可以歸納出兩個(gè)關(guān)鍵觀察顯存與速度的雙重收益INT4 量化在所有被測(cè)模型上都同時(shí)帶來了約 1.6x~2.9x 的顯存節(jié)省與 1.9x~3.4x 的生成加速這印證了 ModelOpt-Windows 概述中壓縮模型大小 2x-4x、加速推理同時(shí)保持模型質(zhì)量的目標(biāo)見 README.md。模型越大收益越明顯7B~8B 級(jí)別的 Llama3.1-8B、Mistral-7B 獲得了最高的加速與顯存節(jié)省而 2B~3B 的小模型Llama3.2-3B、Gemma-2b提升幅度相對(duì)較小——量化收益與模型規(guī)模、計(jì)算/訪存瓶頸比例直接相關(guān)。性能測(cè)試的完整方法論位于 onnxruntime-genai 的 Python benchmarkDirectML 后端Batch Size 固定為 1衡量的是真實(shí)生成decoding階段的吞吐表現(xiàn)。二、精度對(duì)比INT4 量化后的模型質(zhì)量2.1 MMLU5-shot 準(zhǔn)確率MMLUMassive Multitask Language Understanding覆蓋多學(xué)科多項(xiàng)選擇題分?jǐn)?shù)越高代表模型綜合知識(shí)能力越強(qiáng)。下表為 FP16 ONNX 與 INT4 AWQ 量化后模型的 5-shot MMLU 得分ModelONNX FP16ONNX INT4Llama3.1-8B-Instruct68.4566.1Phi3.5-mini-Instruct68.965.7Mistral-7B-Instruct-v0.361.7660.73Llama3.2-3B-Instruct60.857.71Gemma-2b-it37.0137.2觀察要點(diǎn)所有模型在 INT4 量化后 MMLU 損失普遍控制在 0.2~3.2 個(gè)百分點(diǎn)的范圍內(nèi)其中 Gemma-2b-it 甚至出現(xiàn)了微幅提升37.01 → 37.2可視為量化噪聲范圍內(nèi)的波動(dòng)損失最明顯的是 Llama3.2-3B-3.09這也解釋了為什么文檔隨后引入了混合精度INT4INT8策略來保護(hù)敏感層精度。如何復(fù)現(xiàn) MMLU 基準(zhǔn)倉(cāng)庫(kù)在 accuracy_benchmark 下提供了完整的mmlu_benchmark.py腳本支持 DirectML--ep genai_dml、ONNX Runtime--ep ort_dml/ort_cuda/ort_cpu、PyTorch HF--ep pt與 TensorRT-LLM--ep trt-llm等多種后端。例如使用 ORT-DML 運(yùn)行完整測(cè)試套件的命令為python mmlu_benchmark.py --model_name causal --model_path ONNX_model_folder --ep genai_dml --output_file output_log_file.json --ntrain 5只評(píng)測(cè)部分科目時(shí)可追加--subject abstract_algebra,anatomy,college_mathematics。從 mmlu_benchmark.py 的源碼可以看到腳本內(nèi)部按 STEM、humanities、social sciences 等大類組織 57 個(gè)學(xué)科評(píng)測(cè)時(shí)關(guān)閉采樣do_sampleFalse, temperature0.0以保證確定性并針對(duì) GenAI v0.6 使用generator.append_tokens()新 API 逐 token 生成。2.2 PerplexityPPLPerplexity 衡量概率模型對(duì)樣本的預(yù)測(cè)質(zhì)量數(shù)值越低越好。下表給出輸入序列長(zhǎng)度 1024、chunk size 512 條件下不同量化配置的 WikiText-2 perplexity。其中各列含義如下FP16-MBModel Builder 生成的 FP16 GenAI 基線模型Mixed AWQ-MO重要線性層 INT8、其余 INT4AWQ使用 ModelOptMixed RTN-MO重要線性層 INT8、其余 INT4RTN使用 ModelOptPure INT4 AWQ-MO全部線性層 INT4AWQPure INT4 RTN-MO全部線性層 INT4RTNPure INT8 RTN-MO全部線性層 INT8RTNPure INT8 AWQ-MO全部線性層 INT8AWQModelFP16-MBMixed AWQ-MOMixed RTN-MOPure INT4 AWQ-MOPure INT4 RTN-MOPure INT8 RTN-MOPure INT8 AWQ-MODeepSeek R1 Distill Qwen 1.5B39.44741.69944.33244.21346.30439.80239.713Llama 3.2 1B Instruct12.63113.85214.17614.54916.90012.66412.637Phi-3.5 Mini Instruct6.0466.5006.5996.7117.070--Phi-4 Mini Instruct9.0399.6739.71210.01510.911--Qwen 2.5 1.5B Instruct9.21610.08410.33810.49510.9339.2279.232數(shù)據(jù)揭示的規(guī)律純 INT8 幾乎無(wú)損INT8AWQ/RTN的 PPL 與 FP16 基線僅相差 0.01~0.36是保精度場(chǎng)景的首選AWQ 優(yōu)于 RTN在所有同精度檔位上AWQ 的 PPL 均低于 RTN如 Llama 3.2 1B 的純 INT4AWQ 14.549 vs RTN 16.900說明基于校準(zhǔn)數(shù)據(jù)的激活感知縮放AWQ比純數(shù)學(xué)舍入RTN更保質(zhì)量混合精度是甜點(diǎn)區(qū)Mixed AWQINT8 關(guān)鍵層 INT4 其余比 Pure INT4 AWQ 平均再降 1~2 個(gè) PPL而代價(jià)只是少量 INT8 層帶來的額外體積。如何復(fù)現(xiàn)倉(cāng)庫(kù)在 perplexity_metrics 目錄提供了run_perplexity.py命令行工具支持 ONNX GenAI 模型與 HF 模型對(duì)比評(píng)測(cè)。例如對(duì)比 FP16、INT8、INT4 三個(gè)量化變體python run_perplexity.py \ --models /path/to/fp16_model /path/to/int8_model /path/to/int4_model \ --hf_model original/model-name \ --hf_dtype float16 \ --i 2048 \ --output quantization_comparison.csv其中--i指定輸入序列長(zhǎng)度可傳多個(gè)如1024,2048,4096,8192,12288--chunk_size控制 prefill 分塊大小。當(dāng)模型的genai_config.json中啟用了 kv_chunking存在chunk_size字段時(shí)max_input_seq_length自動(dòng)設(shè)為 8192 且stride等于 chunk_size未啟用時(shí)默認(rèn)max_input_seq_length1024、stride512。腳本同時(shí)支持 CPU 運(yùn)行--hf_device cpu。2.3 KL 散度KL-divergenceKL 散度量化量化模型與基線模型輸出分布之間的差異數(shù)值越低代表分布越接近。文檔提供的實(shí)驗(yàn)使用 Hugging Face FP16 模型作為基線量化模型通過假量化fake quantization模擬——即權(quán)重同時(shí)量化和反量化以模擬量化效果而不實(shí)際改變存儲(chǔ)格式評(píng)測(cè)后端為 PyTorch同時(shí) ONNX Runtime 后端onnxruntime-cuda、onnxruntime-trt-rtx-ep也支持評(píng)測(cè)。ModelQuantization MethodQuantization GranularityKL-divergenceInference BackendQwen2.5-1.5B-InstructBase FP16 (Baseline)-0.000PyTorch (FP16)Qwen2.5-1.5B-Instructint4int8 Blockwise-max_algo-mixed_quant (simulated)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.336PyTorch (fake quantization)Qwen2.5-1.5B-Instructint4int8 max_algo-mixed_quant (simulated, per-channel)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.337PyTorch (fake quantization)Llama-3.2-3B-InstructBase FP16 (Baseline)-0.000PyTorch (FP16)Llama-3.2-3B-Instructint4int8 Blockwise-awq-lite_algo-mixed_quant (simulated)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.228PyTorch (fake quantization)Llama-3.2-3B-Instructint4int8 per-channel-awq-lite_algo-mixed_quant (simulated)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.230PyTorch (fake quantization)Llama-3.2-3B-Instructint4int8 Blockwise-max_algo-mixed_quant (simulated)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.238PyTorch (fake quantization)Llama-3.2-3B-Instructint4int8 per-channel-max_algo-mixed_quant (simulated)INT4: per-block (block-size128), INT8: per-channel (row-wise)0.238PyTorch (fake quantization)Llama-3.2-3B-Instructint4 Blockwise-max_algo only (simulated)INT4: per-block (block-size128)0.334PyTorch (fake quantization)注除非特別說明表中 KL 散度均通過 PyTorch 假量化模擬獲得ONNX Runtime 推理同樣可評(píng)測(cè)。關(guān)鍵結(jié)論粒度與算法共同影響質(zhì)量相同配置下AWQ0.228~0.230明顯優(yōu)于 max_algo 直接截?cái)?.238而單純 INT40.334比混合 INT4INT80.228~0.238損失更大結(jié)果與 2.2 節(jié) PPL 結(jié)論相互印證混合精度 AWQ 是 KL 散度最優(yōu)組合。如何復(fù)現(xiàn)使用 kl_divergence_metrics 目錄下的compute_kl_divergence.py支持 HF vs GenAI、GenAI vs GenAI、GenAI vs HF、HF vs HF 四種對(duì)比模式。例如對(duì)比 FP16 與 INT4 兩個(gè) GenAI 模型python compute_kl_divergence.py \ --model1 G:\models\genai_fp16 --model1_type genai \ --model2 G:\models\genai_int4 --model2_type genai \ --output fp16_vs_int4.json常用參數(shù)--model1/--model2模型路徑或 HF Hub 標(biāo)識(shí)、--model1_type/--model2_typehf或genai、--deviceHF 模型推理設(shè)備默認(rèn)cuda、--output、--debug。評(píng)測(cè)數(shù)據(jù)集統(tǒng)一使用 WikiText-2 test split確?？缒Ｐ涂杀刃浴?.4 FVDFréchet Video Distance視頻生成質(zhì)量FVD 使用預(yù)訓(xùn)練 I3D 模型Kinetics-400提取的視頻特征衡量?jī)山M視頻集合的分布相似度數(shù)值越低越好0 代表分布完全相同是視頻生成領(lǐng)域的標(biāo)準(zhǔn)質(zhì)量指標(biāo)。參考基線BF16 模型輸出量化方案PTQ訓(xùn)練后量化與 QAD量化感知蒸餾被測(cè)模型LTX-2.3 視頻生成模型評(píng)測(cè)維度VBench 基準(zhǔn)類別特征提取器I3D來自rgb_imagenet.pt的 1024 維池化特征各 VBench 類別下的 FVD 結(jié)果如下↓ 表示越低越好CategoryFVD: PTQ vs BF16 ↓FVD: QAD vs BF16 ↓Temporal Flickering31.9221.97Subject Dynamic Motion23.4416.28Multiple Objects35.3522.47Human Action30.0821.82Object Class51.5126.86Color36.5225.09Spatial Relationship25.0718.41Scene Background64.9235.69Appearance Style31.0820.82Temporal Style23.6115.85Overall Consistency25.0318.85Average34.4122.19文檔給出的核心結(jié)論QAD 在全部 11 個(gè) VBench 維度上一致優(yōu)于 PTQ平均 FVD 降低約 35%22.19 vs 34.41。差異最大的維度是 Scene Background64.92 vs 35.69與 Object Class51.51 vs 26.86表明 PTQ 對(duì)空間細(xì)節(jié)保真度的損傷比 QAD 更嚴(yán)重而兩者在 Temporal Style 與 Subject Dynamic Motion 上表現(xiàn)最佳說明時(shí)序動(dòng)態(tài)對(duì)量化更穩(wěn)健。如何復(fù)現(xiàn)使用 fvd_metrics 目錄下的compute_fvd.py。I3D 權(quán)重約 49 MB首次運(yùn)行自動(dòng)下載并緩存在~/.cache/fvd/rgb_imagenet.pt?；A(chǔ)用法python compute_fvd.py \ --ref-dir /path/to/reference/videos \ --gen-dir /path/to/generated/videos \ --output results.json關(guān)鍵參數(shù)包括--weights本地 I3D 權(quán)重路徑、--device默認(rèn)自動(dòng)檢測(cè)、--clip-length每片段幀數(shù)默認(rèn) 16、--clips-per-video每視頻采樣片段數(shù)默認(rèn) 1、--batch-size默認(rèn) 8、--pca-dim特征 PCA 維度。值得注意的實(shí)用建議當(dāng)片段數(shù)不足約 256 個(gè)時(shí) FVD 估計(jì)噪聲較大追求可發(fā)表結(jié)果建議使用 2048 片段通過--clips-per-video 8增加樣本數(shù)當(dāng)片段數(shù)小于特征維度 1024 時(shí)腳本會(huì)自動(dòng)啟用 PCA 以避免協(xié)方差矩陣秩虧。三、這些結(jié)果背后的量化實(shí)現(xiàn)源碼佐證3.1 核心量化 API性能與精度表的 INT4 模型均通過 ModelOpt-Windows 的 ONNX 量化 API 生成。README 中給出的 INT4 AWQ 量化最小示例為from modelopt.onnx.quantization.int4 import quantize as quantize_int4 calib_inputs get_calib_inputs(dataset, model_name, cache_dir, calib_size, batch_size,...) quantized_onnx_model quantize_int4( onnx_path, calibration_methodawq_lite, calibration_data_readerNone if use_random_calib else calib_inputs, calibration_eps[dml, cpu] ) onnx.save_model( quantized_onnx_model, output_path, save_as_external_dataTrue, locationos.path.basename(output_path) _data, size_threshold0, )完整的可運(yùn)行腳本見 examples/windows/onnx_ptq/genai_llm/quantize.py它封裝了從校準(zhǔn)數(shù)據(jù)生成CNN DailyMail / pile-val 數(shù)據(jù)集、輸入 shape profile 創(chuàng)建到量化和保存的全流程。其命令行參數(shù)與基準(zhǔn)文檔中 PPL/KL 表格的列名一一對(duì)應(yīng)例如--algoawq_liteAWQ 縮放搜索 INT4 量化、awq_clip權(quán)重裁剪 INT4、rtn含 Q-DQ 節(jié)點(diǎn)的 INT4 RTN、rtn_dq僅 DQ 節(jié)點(diǎn)的 INT4 RTN--enable_mixed_quant--layers_8bit開啟重要線性層 INT8、其余 INT4的混合精度策略即上表 Mixed AWQ/RTN 列的來源--calib_size默認(rèn) 128、--block-sizeAWQ 塊大小默認(rèn) 128對(duì)應(yīng)表中 per-block block-size128、--calibration_eps校準(zhǔn) EP默認(rèn)[cuda,cpu]--add_position_ids為 DML EP 生成的帶position_ids輸入的模型補(bǔ)充校準(zhǔn)輸入--use_zero_point、--awqlite_alpha_step默認(rèn) 0.1、--awqlite_run_per_subgraph等 AWQ 細(xì)粒度控制項(xiàng)。從 quantization_utils.py 可以看到MMLU 評(píng)測(cè)腳本還支持在 PyTorch 側(cè)用mtq.quantize配合校準(zhǔn)循環(huán)做量化模擬fake quantization并在評(píng)測(cè)前mtq.fold_weight(net)折疊權(quán)重以加快推理——這正是 KL 表格中 PyTorch (fake quantization) 一行的實(shí)現(xiàn)路徑。3.2 混合精度INT4 INT8的價(jià)值genai_llm 示例文檔還給出了混合精度相對(duì)純 INT4 的實(shí)測(cè)收益源于倉(cāng)庫(kù)內(nèi)基準(zhǔn)非本文檔表格數(shù)據(jù)ModelMetricINT4 RTNMixed RTN (INT4INT8)ImprovementDeepSeek R1 1.5BMMLU32.40%33.90%1.5%Perplexity46.30444.332-2.0 (lower is better)Llama 3.2 1BMMLU39.90%44.70%4.8%Perplexity16.90014.176-2.7 (lower is better)Qwen 2.5 1.5BMMLU56.70%57.50%0.8%這與本文檔 2.2 節(jié) PPL 表中 Mixed RTN-MO 優(yōu)于 Pure INT4 RTN-MO 的規(guī)律完全一致以少量 INT8 層換取 1~5 個(gè)百分點(diǎn)的 MMLU 提升與 2~3 個(gè) PPL 的回落是平衡體積、速度與質(zhì)量的關(guān)鍵手段。四、部署注意事項(xiàng)與基準(zhǔn)復(fù)現(xiàn)前提Opset 要求量化后 ONNX 模型的 opset 需滿足——FP8 量化要求 opset 19INT4 量化要求 opset 21取決于 ONNX 的 QuantizeLinear/DequantizeLinear 節(jié)點(diǎn)對(duì) INT4/FP8 數(shù)據(jù)類型支持的 opset 版本。必要時(shí)先對(duì)模型執(zhí)行 opset 升級(jí)upgrade_opset()再保存量化模型?；鶞?zhǔn)數(shù)據(jù)不是上限文檔明示各表結(jié)果僅為參考點(diǎn)不同驅(qū)動(dòng)、軟件版本、模型導(dǎo)出方式如 GenAI Model Builder 的 EP 選擇都可能改變結(jié)果兩套精度表分別基于 RTX 4090v0.19.0與 RTX 5090v0.39.0環(huán)境對(duì)比時(shí)務(wù)必核對(duì)版本?？蓮?fù)現(xiàn)的評(píng)測(cè)入口完整的 MMLU 環(huán)境搭建含 PowerShell 管理員權(quán)限、venv、PyTorch cu128 安裝、ONNX Runtime 包與 MMLU 數(shù)據(jù)下載命令見 accuracy_benchmark/README.mdPerplexity、KL 散度、FVD 各自的安裝與參數(shù)說明見對(duì)應(yīng)子目錄 README。若遇到 GenAI 兼容性問題如 tokenizer 或包版本沖突文檔建議回退到 onnxruntime-genai-directml 0.4 transformers 4.44 組合?？偨Y(jié)Model-Optimizer Windows 基準(zhǔn)文檔提供了一套覆蓋性能顯存/加速— 語(yǔ)言模型質(zhì)量MMLU/PPL/KL— 視頻生成質(zhì)量FVD的完整量化評(píng)估體系。其核心結(jié)論可歸納為三點(diǎn)INT4 量化可在 RTX GPU 上帶來約 2x 顯存節(jié)省與 2~3x 生成加速AWQ 與混合精度INT8 關(guān)鍵層 INT4 其余是精度損失最小的組合對(duì)視頻生成模型QAD 相比 PTQ 平均降低 35% 的 FVD。配合倉(cāng)庫(kù)內(nèi)四個(gè)評(píng)測(cè)工具mmlu_benchmark.py、run_perplexity.py、compute_kl_divergence.py、compute_fvd.py與quantize.py量化腳本你可以在自己的 Windows RTX 環(huán)境上完整復(fù)現(xiàn)并擴(kuò)展這套基準(zhǔn)為模型壓縮方案的選擇提供量化依據(jù)。贊分享【免費(fèi)下載鏈接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.項(xiàng)目地址https://gitcode.com/GitHub_Trending/te/Model-Optimizer點(diǎn)擊查看免費(fèi)下載相關(guān)推薦Model-Optimizer ONNX 后訓(xùn)練量化PTQ實(shí)戰(zhàn)指南從 INT8/FP8/INT4 量化到 TensorRT 部署Model Optimizer ONNX 后訓(xùn)練量化PTQ實(shí)戰(zhàn)指南從 INT8/FP8/INT4 量化到 TensorRT 部署 導(dǎo)讀 本文圍繞 examModel-Optimizer 量化基礎(chǔ)概念精講精度格式、縮放因子、塊格式與校準(zhǔn)算法Model Optimizer 量化基礎(chǔ)概念精講精度格式、縮放因子、塊格式與校準(zhǔn)算法 量化格式由三個(gè)要素共同定義精度格式precision format如何精確測(cè)量ONNX算子性能完整微基準(zhǔn)測(cè)試指南如何精確測(cè)量ONNX算子性能完整微基準(zhǔn)測(cè)試指南 ONNXOpen Neural Network Exchange作為機(jī)器學(xué)習(xí)模型互操作性的開放標(biāo)準(zhǔn)其算子人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)上一篇KMS智能激活腳本3分鐘完成Windows和Office永久激活的完整指南下一篇Call Center AI 實(shí)戰(zhàn)指南用 Azure 與 OpenAI 構(gòu)建 AI 電話客服機(jī)器人創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考